前两天体验了一下腾讯云的在线实验，内容如题，在这里记录一下一些必要知识（ 水
实验步骤
这个实验分为训练过程和测试过程两部分。
训练过程流程及实现：
- 解析脚本输入参数：使用argparse解析，由args变量持有
- 创建模型：自定义函数create_model()，返回使用keras.models.Model类创建的实例
- 模型编译：执行Model实例的compile()
- 数据增强：自定义函数create_image_generator()
- 模型训练与保存：自定义函数train()完成模型训练，使用keras.callbacks.ModelCheckpoint类的实例完成模型保存
测试过程流程及实现：
- 解析脚本输入参数：使用argparse解析，由args变量持有
- 创建模型：自定义函数create_model()
- 模型加载：使用keras.models.load_model()
- 数据读取：自定义函数create_image_generator()
- 预测与评估：自定义函数test()
环境搭建
安装TensorFlow
输入下述命令升级pip并安装TensorFlow
python -m pip install --upgrade pip && pip install tensorflow==1.14
安装Keras
输入下述命令安装Keras
pip install keras==2.3.1
安装opencv-python
输入下述命令安装opencv-python
pip install opencv-python
安装numpy
输入下述命令安装numpy
pip install numpy==1.19
编写训练代码
创建文件
进入工程目录
cd /traffic_symbol
创建train.py文件，本实验的后续代码都将在此文件中完成
touch train.py
引用文件
点击打开 train.py 文件，输入下述内容：
在文件顶部输入下述内容
import os
import argparse
import shutil
import cv2
import random
import numpy as np
import keras
from keras.applications.mobilenet import preprocess_input, MobileNet
from keras.preprocessing.image import ImageDataGenerator
from keras.models import Model, load_model
from keras.layers import *
from keras.callbacks import ModelCheckpoint
记得保存！
保存方法：Windows 系统点击 ctrl+s，Mac OS 点击 command+s 保存
完成模型构建代码
继续在 train.py 中继续输入下面的内容，然后保存
# 创建模型
def create_model(height, width, channel, num_class):
# 加载预训练模型
base_model = MobileNet(input_shape=(height, width, channel), weights='imagenet', include_top=False)
# 把基础模型后部替换成GAP + FC
x = base_model.output
x = GlobalAveragePooling2D()(x)
x = Dropout(0.5)(x)
x = Dense(256, activation='relu')(x)
predictions = Dense(num_class, activation='softmax')(x)
# 创建模型
return Model(inputs=base_model.input, outputs=predictions)
完成数据处理代码
继续添加下列代码，并保存：
# 图片增强
def preprocess(image):
# 图片格式转换为HSV
image = cv2.cvtColor(image, cv2.COLOR_RGB2HSV)
# 无关信息增强：随机改变色调、饱和度、明度
h, s, v = cv2.split(image)
shift_h = cv2.addWeighted(h, 1, h, 0, random.randint(-10, 10))
shift_hsv = cv2.merge([shift_h, s, v])
image = cv2.cvtColor(shift_hsv, cv2.COLOR_HSV2RGB)
brightness = random.randint(-50, 50)
contrast = random.uniform(0.8, 1.2)
image = cv2.addWeighted(image, contrast, image, 0, brightness)
# mobilenet的图片加速处理方式
image = preprocess_input(image)
return image
# 创建ImageDataGenerator
def create_image_generator(args, type):
classes = [str(i) for i in range(args.n_classes)]
if type == 0:
# 训练集数据处理
generator = ImageDataGenerator(
preprocessing_function=preprocess,
shear_range=0.2, # 裁剪
zoom_range=0.2, # 缩放
rotation_range=20, # 旋转
vertical_flip=False,# 纵向对称变换
horizontal_flip=True# 横向对称变换
).flow_from_directory(
args.dataset + '/train',
target_size=(model.inputs[0].shape[1], model.inputs[0].shape[2]),
batch_size=args.batch_size,
classes=classes,
class_mode='categorical'
)
elif type == 1:
# 验证集集数据处理
generator = ImageDataGenerator(
preprocessing_function=preprocess_input # 数据不做任何增强
).flow_from_directory(
args.dataset + '/validation',
target_size=(model.inputs[0].shape[1], model.inputs[0].shape[2]),
batch_size=args.batch_size,
classes=classes,
class_mode='categorical',
shuffle=False,
seed=0
)
return generator
完成训练流程代码
继续添加下列代码，并保存：
# 训练模型
def train(args, model):
# 训练数据处理
train_generator = create_image_generator(args, 0)
# 验证集数据处理
validation_generator = create_image_generator(args, 1)
# 编译模型
model.compile(optimizer=keras.optimizers.Adam(),
metrics=['accuracy'],
loss='categorical_crossentropy')
# 模型保存
model_save_path = os.path.join(args.output, 'model.h5')
saver = ModelCheckpoint(model_save_path, monitor='val_loss', verbose=1, save_best_only=True)
# 开始训练
model.fit_generator(
generator=train_generator,
epochs=args.epochs,
validation_data=validation_generator,
callbacks=[saver])
完成参数处理代码
继续添加下列代码，并保存：
if __name__ == "__main__":
# 参数解析
parser = argparse.ArgumentParser()
# 定义路径
parser.add_argument("--dataset", type=str, default="./data")
parser.add_argument("--output", type=str, default="./results")
parser.add_argument("--resume_model_path", type=str, default="")
# 定义模型参数
parser.add_argument("--n_classes", type=int, default=2)
parser.add_argument("--input_width", type=int, default=128)
parser.add_argument("--input_height", type=int, default=128)
parser.add_argument("--input_channel", type=int, default=3)
# 定义超参数
parser.add_argument("--epochs", type=int, default=5)
parser.add_argument("--batch_size", type=int, default=4)
# 过程控制。test为0表示训练，test为1表示测试
parser.add_argument("--test", type=int, default=0)
args = parser.parse_args()
print("args: ", args)
# 创建输出路径所指文件夹
os.makedirs(args.output, exist_ok=True)
# 创建模型
model = create_model(args.input_height, args.input_width, args.input_channel, args.n_classes)
# 打印模型结构
model.summary()
# 加载模型
if args.resume_model_path != "":
try:
model = load_model(args.resume_model_path)
except Exception as e:
print('No saved model, using init weights!')
if args.test:
# 预测测试图片
test(args, model)
else:
# 开始训练
train(args, model)
开始训练
使用脚本进行训练
输入下述命令执行脚本训练过程
python train.py
测试模型
输入测试数据处理函数
在 /traffic_symbol/train.py 文件中，找到 create_image_generator 方法，在 return generator 前面输入下述代码，然后保存。 请 注意缩进！
else:
# 测试集数据处理
generator = ImageDataGenerator(
preprocessing_function=preprocess_input # 数据不做任何增强
).flow_from_directory(
args.dataset + '/test',
target_size=(model.inputs[0].shape[1], model.inputs[0].shape[2]),
batch_size=args.batch_size,
classes=classes,
class_mode='categorical',
shuffle=False,
seed=0
)
输入测试流程函数
在if __name__ == "__main__":前，继续输入下面的代码，然后保存
# 模型测试
def test(args, model):
# 生成结果解析路径
result_folder = args.output + '/test'
if os.path.exists(result_folder):
shutil.rmtree(result_folder)
os.makedirs(result_folder)
# 生成测试数据集
test_generator = create_image_generator(args, 2)
# 初始化变量
total_images = 0
right_images = 0
n_val_batch = len(test_generator)
# 批量预测图片
for b in range(n_val_batch):
vx, vy = test_generator.next()
pred = model.predict(vx)
vy = np.argmax(vy, -1)
pred = np.argmax(pred, -1)
if test_generator.batch_index > 0:
idx = (test_generator.batch_index - 1) * test_generator.batch_size
else:
idx = (n_val_batch - 1) * test_generator.batch_size
files = test_generator.filepaths[idx: idx + test_generator.batch_size]
indices = [i for i, v in enumerate(pred) if pred[i] != vy[i]]
total_images += len(files)
right_images += len(files) - len(indices)
for i in range(len(files)):
img = cv2.imread(files[i], cv2.IMREAD_UNCHANGED)
text = "label" + str(vy[i]) + "_pred" + str(pred[i]) + "_"
save_path = os.path.join(result_folder, text + os.path.basename(files[i]))
cv2.imwrite(save_path, img)
print('accuracy', right_images / total_images)
模型测试
使用脚本进行测试
输入下述命令
python train.py --test 1 --resume_model_path /traffic_symbol/results/model.h5
等待测试完成，可以看到类似这样的输出
Found 16 images belonging to 2 classes.
accuracy 1.0
查看测试图片数据结果
ls /traffic_symbol/results/test
运行上述命令，可以看到输出图片的类似效果
可以在这里看到所有图片的标注和预测结果。 如label0_pred0_43-0-0.jpg，意味着标注类别是0，预测结果0，原图名称是43-0-0.jpg
打开 results/test 文件夹，在 右侧目录树 点击查看测试输出图片效果