机器学习 / A LEAF IN THE GARDEN
宋词续写
机器学习 · 动手深度学习。来自 Daily Learning 的学习笔记。
代码 1 · In [1]
import torch
from torch import nn
import util已保存输出
/root/autodl-tmp/envs/daily_learning/lib/python3.11/site-packages/requests/__init__.py:92: RequestsDependencyWarning: Unable to find acceptable character detection dependency (chardet or charset_normalizer). warnings.warn(
代码 2 · In [2]
batch_size = 32
num_steps = 35
train_iter, vocab = util.data.load_data_songci(batch_size, num_steps)代码 3 · In [3]
vocab_size = len(vocab)
num_hiddens = 256
num_layers = 4
device = util.try_gpu()
num_epochs = 100
lr = 2代码 4 · In [4]
gru_layer = nn.GRU(input_size=vocab_size, hidden_size=num_hiddens)
model = util.model.RNNModel(gru_layer, vocab_size).to(device)
util.train.train_ch8(model, train_iter, vocab, lr, num_epochs, device, prefix=['春花秋月何时了，往事知多少。'])已保存输出
困惑度 38.0, 152424.3 token/秒 春花秋月何时了，往事知多少。雨过风光无限事。一片潇湘无处。一番风雨。更无情、思悠悠。此恨无情风雨，吹花满地，燕子归来。几度相思泪
代码 5 · In [15]
util.predict_ch8('春花秋月何时了，往事知多少。', 175, model, vocab, device)已保存输出
'春花秋月何时了，往事知多少。雨过风光无限事。一片潇湘无处。一番风雨。更无情、思悠悠。此恨无情风雨，吹花满地，燕子归来。几度相思泪眼，不见旧时踪。念远山高处，空凝伫立，一片潇潇。雨过云深，梦魂不断，梦里不知音。空怅望，断鸿声在，魂梦断魂。笛里关山，凭阑处、一番春色。最苦是、江南倦客，不堪重见。一笑相逢无限意，惟有落花无处。但有分明，不知何处，不肯为谁得。明朝酒醒，不知何处羌管。'