exponential and sigmoid results
1
.gitignore
vendored
@ -65,7 +65,6 @@ cover/
|
|||||||
*.pot
|
*.pot
|
||||||
|
|
||||||
# Django stuff:
|
# Django stuff:
|
||||||
*.log
|
|
||||||
local_settings.py
|
local_settings.py
|
||||||
db.sqlite3
|
db.sqlite3
|
||||||
db.sqlite3-journal
|
db.sqlite3-journal
|
||||||
|
4566
cars/lr-investigations/exponential/1e-1/0.85/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-1/0.85/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-1/0.85/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-1/0.85/large.png
Normal file
After Width: | Height: | Size: 98 KiB |
388
cars/lr-investigations/exponential/1e-1/0.85/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-1/0.85/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-1/0.85/small.png
Normal file
After Width: | Height: | Size: 93 KiB |
14
cars/lr-investigations/exponential/1e-1/0.85/solver.prototxt
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.10000000149
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.998407959938
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 0.0010000000475
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-1/0.85/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-1/0.9/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-1/0.9/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-1/0.9/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-1/0.9/large.png
Normal file
After Width: | Height: | Size: 41 KiB |
388
cars/lr-investigations/exponential/1e-1/0.9/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-1/0.9/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-1/0.9/small.png
Normal file
After Width: | Height: | Size: 63 KiB |
14
cars/lr-investigations/exponential/1e-1/0.9/solver.prototxt
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.10000000149
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.998967587948
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 0.0010000000475
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-1/0.9/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-2/0.7/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.7/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-2/0.7/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-2/0.7/large.png
Normal file
After Width: | Height: | Size: 70 KiB |
388
cars/lr-investigations/exponential/1e-2/0.7/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-2/0.7/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.7/small.png
Normal file
After Width: | Height: | Size: 76 KiB |
14
cars/lr-investigations/exponential/1e-2/0.7/solver.prototxt
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.00999999977648
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.996509313583
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 9.99999974738e-05
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-2/0.7/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-2/0.8/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.8/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-2/0.8/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-2/0.8/large.png
Normal file
After Width: | Height: | Size: 80 KiB |
388
cars/lr-investigations/exponential/1e-2/0.8/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-2/0.8/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.8/small.png
Normal file
After Width: | Height: | Size: 83 KiB |
14
cars/lr-investigations/exponential/1e-2/0.8/solver.prototxt
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.00999999977648
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.997814714909
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 9.99999974738e-05
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-2/0.8/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-2/0.9/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.9/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-2/0.9/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-2/0.9/large.png
Normal file
After Width: | Height: | Size: 107 KiB |
388
cars/lr-investigations/exponential/1e-2/0.9/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-2/0.9/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.9/small.png
Normal file
After Width: | Height: | Size: 98 KiB |
14
cars/lr-investigations/exponential/1e-2/0.9/solver.prototxt
Normal file
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.00999999977648
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.998967587948
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 9.99999974738e-05
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-2/0.9/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-2/0.925/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.925/conf.csv
Normal file
341
cars/lr-investigations/exponential/1e-2/0.925/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|
BIN
cars/lr-investigations/exponential/1e-2/0.925/large.png
Normal file
After Width: | Height: | Size: 103 KiB |
388
cars/lr-investigations/exponential/1e-2/0.925/original.prototxt
Normal file
@ -0,0 +1,388 @@
|
|||||||
|
name: "AlexNet"
|
||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "train"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 128
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
batch_size: 32
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
stage: "val"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
exclude {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
include {
|
||||||
|
stage: "deploy"
|
||||||
|
}
|
||||||
|
}
|
1619
cars/lr-investigations/exponential/1e-2/0.925/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.925/small.png
Normal file
After Width: | Height: | Size: 97 KiB |
@ -0,0 +1,14 @@
|
|||||||
|
test_iter: 51
|
||||||
|
test_interval: 102
|
||||||
|
base_lr: 0.00999999977648
|
||||||
|
display: 12
|
||||||
|
max_iter: 10200
|
||||||
|
lr_policy: "exp"
|
||||||
|
gamma: 0.999235987663
|
||||||
|
momentum: 0.899999976158
|
||||||
|
weight_decay: 9.99999974738e-05
|
||||||
|
snapshot: 102
|
||||||
|
snapshot_prefix: "snapshot"
|
||||||
|
solver_mode: GPU
|
||||||
|
net: "train_val.prototxt"
|
||||||
|
solver_type: SGD
|
382
cars/lr-investigations/exponential/1e-2/0.925/train_val.prototxt
Normal file
@ -0,0 +1,382 @@
|
|||||||
|
layer {
|
||||||
|
name: "train-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TRAIN
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
mirror: true
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/train_db"
|
||||||
|
batch_size: 128
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "val-data"
|
||||||
|
type: "Data"
|
||||||
|
top: "data"
|
||||||
|
top: "label"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
transform_param {
|
||||||
|
crop_size: 227
|
||||||
|
mean_file: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/mean.binaryproto"
|
||||||
|
}
|
||||||
|
data_param {
|
||||||
|
source: "/mnt/bigdisk/DIGITS-MAN-2/digits/jobs/20210407-214532-d396/val_db"
|
||||||
|
batch_size: 32
|
||||||
|
backend: LMDB
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.99999974738e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00499999988824
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.10000000149
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.00999999977648
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "accuracy"
|
||||||
|
type: "Accuracy"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "accuracy"
|
||||||
|
include {
|
||||||
|
phase: TEST
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "loss"
|
||||||
|
type: "SoftmaxWithLoss"
|
||||||
|
bottom: "fc8"
|
||||||
|
bottom: "label"
|
||||||
|
top: "loss"
|
||||||
|
}
|
4566
cars/lr-investigations/exponential/1e-2/0.95/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.95/conf.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.95/large.png
Normal file
After Width: | Height: | Size: 102 KiB |
1619
cars/lr-investigations/exponential/1e-2/0.95/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.95/small.png
Normal file
After Width: | Height: | Size: 100 KiB |
4566
cars/lr-investigations/exponential/1e-2/0.98/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.98/conf.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.98/large.png
Normal file
After Width: | Height: | Size: 107 KiB |
1619
cars/lr-investigations/exponential/1e-2/0.98/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.98/small.png
Normal file
After Width: | Height: | Size: 102 KiB |
4566
cars/lr-investigations/exponential/1e-2/0.99/caffe_output.log
Normal file
197
cars/lr-investigations/exponential/1e-2/0.99/conf.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.99/large.png
Normal file
After Width: | Height: | Size: 115 KiB |
1619
cars/lr-investigations/exponential/1e-2/0.99/pred.csv
Normal file
BIN
cars/lr-investigations/exponential/1e-2/0.99/small.png
Normal file
After Width: | Height: | Size: 106 KiB |
197
cars/lr-investigations/fixed/1e-1/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-1/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/1e-2/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-2/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/1e-3/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-3/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/1e-4/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-4/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/1e-5/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-5/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/1e-6/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/1e-6/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/5e-2/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/5e-2/100e/pred.csv
Normal file
197
cars/lr-investigations/fixed/5e-3/100e/conf.csv
Normal file
1619
cars/lr-investigations/fixed/5e-3/100e/pred.csv
Normal file
4567
cars/lr-investigations/sigmoid/1e-2/50_0.05/caffe_output.log
Normal file
197
cars/lr-investigations/sigmoid/1e-2/50_0.05/conf.csv
Normal file
BIN
cars/lr-investigations/sigmoid/1e-2/50_0.05/large.png
Normal file
After Width: | Height: | Size: 107 KiB |
1619
cars/lr-investigations/sigmoid/1e-2/50_0.05/pred.csv
Normal file
BIN
cars/lr-investigations/sigmoid/1e-2/50_0.05/small.png
Normal file
After Width: | Height: | Size: 102 KiB |
4567
cars/lr-investigations/sigmoid/1e-2/50_0.1/caffe_output.log
Normal file
197
cars/lr-investigations/sigmoid/1e-2/50_0.1/conf.csv
Normal file
BIN
cars/lr-investigations/sigmoid/1e-2/50_0.1/large.png
Normal file
After Width: | Height: | Size: 106 KiB |
1619
cars/lr-investigations/sigmoid/1e-2/50_0.1/pred.csv
Normal file
BIN
cars/lr-investigations/sigmoid/1e-2/50_0.1/small.png
Normal file
After Width: | Height: | Size: 102 KiB |
4567
cars/lr-investigations/sigmoid/1e-2/50_0.15/caffe_output.log
Normal file
197
cars/lr-investigations/sigmoid/1e-2/50_0.15/conf.csv
Normal file
341
cars/lr-investigations/sigmoid/1e-2/50_0.15/deploy.prototxt
Normal file
@ -0,0 +1,341 @@
|
|||||||
|
input: "data"
|
||||||
|
input_shape {
|
||||||
|
dim: 1
|
||||||
|
dim: 3
|
||||||
|
dim: 227
|
||||||
|
dim: 227
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv1"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "data"
|
||||||
|
top: "conv1"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 96
|
||||||
|
kernel_size: 11
|
||||||
|
stride: 4
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu1"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "conv1"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm1"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv1"
|
||||||
|
top: "norm1"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.9999997e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool1"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm1"
|
||||||
|
top: "pool1"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv2"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool1"
|
||||||
|
top: "conv2"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 2
|
||||||
|
kernel_size: 5
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu2"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "conv2"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "norm2"
|
||||||
|
type: "LRN"
|
||||||
|
bottom: "conv2"
|
||||||
|
top: "norm2"
|
||||||
|
lrn_param {
|
||||||
|
local_size: 5
|
||||||
|
alpha: 9.9999997e-05
|
||||||
|
beta: 0.75
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool2"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "norm2"
|
||||||
|
top: "pool2"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv3"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "pool2"
|
||||||
|
top: "conv3"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu3"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv3"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv4"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv3"
|
||||||
|
top: "conv4"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 384
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu4"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv4"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "conv5"
|
||||||
|
type: "Convolution"
|
||||||
|
bottom: "conv4"
|
||||||
|
top: "conv5"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
convolution_param {
|
||||||
|
num_output: 256
|
||||||
|
pad: 1
|
||||||
|
kernel_size: 3
|
||||||
|
group: 2
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu5"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "conv5"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "pool5"
|
||||||
|
type: "Pooling"
|
||||||
|
bottom: "conv5"
|
||||||
|
top: "pool5"
|
||||||
|
pooling_param {
|
||||||
|
pool: MAX
|
||||||
|
kernel_size: 3
|
||||||
|
stride: 2
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc6"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "pool5"
|
||||||
|
top: "fc6"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0049999999
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu6"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop6"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc6"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc7"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc6"
|
||||||
|
top: "fc7"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 4096
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0049999999
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.1
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "relu7"
|
||||||
|
type: "ReLU"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "drop7"
|
||||||
|
type: "Dropout"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc7"
|
||||||
|
dropout_param {
|
||||||
|
dropout_ratio: 0.5
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "fc8"
|
||||||
|
type: "InnerProduct"
|
||||||
|
bottom: "fc7"
|
||||||
|
top: "fc8"
|
||||||
|
param {
|
||||||
|
lr_mult: 1.0
|
||||||
|
decay_mult: 1.0
|
||||||
|
}
|
||||||
|
param {
|
||||||
|
lr_mult: 2.0
|
||||||
|
decay_mult: 0.0
|
||||||
|
}
|
||||||
|
inner_product_param {
|
||||||
|
num_output: 196
|
||||||
|
weight_filler {
|
||||||
|
type: "gaussian"
|
||||||
|
std: 0.0099999998
|
||||||
|
}
|
||||||
|
bias_filler {
|
||||||
|
type: "constant"
|
||||||
|
value: 0.0
|
||||||
|
}
|
||||||
|
}
|
||||||
|
}
|
||||||
|
layer {
|
||||||
|
name: "softmax"
|
||||||
|
type: "Softmax"
|
||||||
|
bottom: "fc8"
|
||||||
|
top: "softmax"
|
||||||
|
}
|