#!/bin/bash
#
#SBATCH --time=72:00:00
#SBATCH --nodes=1
#SBATCH --ntasks-per-node=16
#SBATCH --job-name=cifar_cams
#SBATCH --output=cifar_cams.o%j
##SBATCH --error=cifar_cams.e%j
##SBATCH --mail-type=BEGIN,END
#SBATCH --gres=gpu:A100:1
#
# End of embedded SBATCH options
#

source ~/.bashrc
source activate mlopt

#2067582 lr=0.01 sketch size=4e4
python ../../main.py --dataset cifar --model resnet_gn --loss CrossEntropyLoss --opt federated --lr 0.01 --epoch 500 --analysis loss --log_interval 1 --batch_size 128 --momentum 0.9 --depth 101 --weight_decay 1e-4 --run_from_scratch 1 --scheduler cosine --lr_min 1e-5 --label_smoothing 0.1 --client_num 5 --client_opt_name sgd --client_epoch 1 --client_lr 0.1 --client_momentum 0.9  --sketch_size 40000 --server_opt_name cams --base_opt adam


#1718183 lr=0.01 sketch size=4e6
#python ../../main.py --dataset cifar --model resnet_gn --loss CrossEntropyLoss --opt federated --lr 0.01 --epoch 500 --analysis loss --log_interval 1 --batch_size 128 --momentum 0.9 --depth 101 --weight_decay 1e-4 --run_from_scratch 1 --scheduler cosine --lr_min 1e-5 --label_smoothing 0.1 --client_num 5 --client_opt_name sgd --client_epoch 1 --client_lr 0.1 --client_momentum 0.9  --sketch_size 4000000 --server_opt_name cams --base_opt adam

#1715824 lr=0.01
#python ../../main.py --dataset cifar --model resnet_gn --loss CrossEntropyLoss --opt federated --lr 0.01 --epoch 500 --analysis loss --log_interval 1 --batch_size 128 --momentum 0.9 --depth 101 --weight_decay 1e-4 --run_from_scratch 1 --scheduler cosine --lr_min 1e-5 --label_smoothing 0.1 --client_num 5 --client_opt_name sgd --client_epoch 1 --client_lr 0.1 --client_momentum 0.9  --sketch_size 400000 --server_opt_name cams --base_opt adam

#1713906 lr=0.001
#python ../../main.py --dataset cifar --model resnet_gn --loss CrossEntropyLoss --opt federated --lr 0.001 --epoch 500 --analysis loss --log_interval 1 --batch_size 128 --momentum 0.9 --depth 101 --weight_decay 1e-4 --run_from_scratch 1 --scheduler cosine --lr_min 1e-5 --label_smoothing 0.1 --client_num 5 --client_opt_name sgd --client_epoch 1 --client_lr 0.1 --client_momentum 0.9  --sketch_size 400000 --server_opt_name cams --base_opt adam
