魔改GPT自动写网文（魔改GPT自动写网文）
量子位 报道 | 公家号 QbitAI
假如一小我私人只看网文，那会写出来奈何的笔墨？
看了100G网文后，这个AI模子帮你试了一下。
先来一段自由创作：
乍眼看去很有内味，并且根基是一秒十字乃至更快的天生速率，很是的amazing。
那再放一段经典网文故事飞腾前的内容，让AI作家资助续一下？
呃……不是“三十年河东，三十年河西，莫欺少年穷”，没内味儿啊！
这就是开拓者密切地称之为“人工智障写作”，由GPT魔改而成的模子AI-Writer：
这一模子拥有100M参数目，基于100G收集小说实习，没有回收任何其他素材。
因此，AI-Writer相等于是一位“只看收集小说”的创作者，不具备任何网文以外的知识，行文气魄威风凛凛天然也就较量小白。
但亏得阅书无数，一句同样的开头：
就能天生机魄威风凛凛迥异，走向差异的多个片断：
也可以自界说每次的天生字数，像上面就是每次天生200字。
理论上可以无穷天生笔墨，但时刻长了也会陷入“不绝一再某字或某片断”的轮回之中。
天生笔墨速率受加快方法的影响，今朝支持N卡、A卡、I卡、GPU加快，可以选择最得当本身装备的方法：
像开头展示的那段动图，天生速率乃至不止一秒十字，就是通过GPU加快的结果。
假如你认为AI写的有点过分放飞自我，也可以配置天生笔墨的随机水平。
要表明这里的笔墨天生随机性，就要说到AI-Writer所回收的一种非凡的采样要领：
对付段落开头
将Top-P配置为0.995，险些完全凭证输出的概率漫衍采样，加强行文变革
对付其他位置
先找到最高概率的字的概率P，然后移除全部概率小于 0.02×P2的字
这样，模子天生的每一个字都是一个概率漫衍，因此，上面的笔墨天生的随机水平，也就是笔墨天生时忽略小概率字的水平。
可以比拟一下该值别离为0.01，0.1，0.9时的天生结果：
虽然，因为这是个只有100M参数的小模子，以是逻辑和阅读领略手段是较低的。
用开拓者的话来说，就是“它是个纯智障，纯属娱乐”。
模子可直接试玩不外，就算本着娱乐的目标，我们也来看看怎么做才让这个AI作者动笔。
在情形设置上，开拓者暗示，假如回收他通过C AVX2写的纯CPU版本，就不必要Python和Pytorch，只要是2014年往后的CPU都能乐成运行。
（作者已将这一版本上传至交换群）
而上述演示的动图则是在Python3.8和Pytorch1.10的情形设置下的Demo。
在情形设置完毕后，下载模子和Release文件，在模子文件中新建一个model文件夹，并将release文件解压放在model目次下。
这时你就可以运行python run.py，在终端快速天生笔墨：
（这里可以先安装一下DeepLearning情形）
笔墨可以一向自由天生下去，可以通过Ctrl C来遏制。
虽然，因为这里是在2.3 GHz 双核Intel Core i5的Mac本上跑的，以是并没有到达10字/秒的天生速率。
也可以在网页中举办试玩，运行python server.py，并打开下载模子web-client文件夹中的index.html。
然后就可以打开网页，直接在对话框中输入开头，点击按钮举办续写了：
(责任编辑：admin)
国学经典故事（国学经典故
西施是哪里人，她的原名叫
李斯被腰斩死得冤
历史上的嘉庆杀和