由科技巨子马斯克（Elon Musk）支持的非营利组织Open AI，近期公布的AI文字产生器GPT2，由于可产生几近真人撰写的假新闻，引发极大争议，OpenAI决定不释出训练好的模型，只公开一小部份模型和范例。GPT2以近40 gigabyte的网页文字训练而成，旨在使其具备预测下一个文字的能力。研究团队宣称GPT2产生的文字可因应前后文的风格和内容，使用者只要喂给它一段文字，这个AI系统就能产生任意主题「逼真而有条理的文句」。
根据英国媒体《卫报》（The Guardian）公布的一段测试影片，编辑输入一句关于英国脱欧的不完整句子，GPT2即可立刻产生一段完整段落。另外，若喂给它乔治奥韦尔的《1984》小说里的第一句「It was a bright cold day in April, and the clocks were striking thirteen」，它立刻辨识出文字的未来科幻小说风格，而能接续相应的故事。该报认为GPT2产生的句子，几乎未显露过去AI系统前后语意不一致或语法错误的问题。虽然也有人指出GPT2只是从网络上抓来文字拼凑而成还算有条理的文字，但是许多人认为，GPT2已经显示AI仿真能力的成熟技术，担心这个AI系统会被拿来制造一般人无法辨识的假新闻，并称之为「文字版的deepfake」。Deepfake是专指利用AI将名人嘴形、脸部与×××或他人影片移花接木，以遂恶作剧或栽赃嫁祸的目的的影片。内容来源至：乐爱公益 http://www.cafes.org.tw/info.asp
OpenAI随后表示，由于考虑这项技术可能遭恶意使用，像是生产误导性的文字、冒充他人的网络身份、或是在社群网站散布假新闻、自动生产垃圾及钓鱼内容等，OpenAI将不会释出训练好的模型，但秉持负责任揭露的原则，他们将释出相对小许多的模型、范例和技术白皮书提供外部研究人员实验之用。但也有人批评OpenAI将研究隐藏不完全公开的做法，与其组织名称意义背道而驰。马斯克本人倒是对此撇清关系，他在推持上表示他已经一年多未涉入OpenAI的运作，也没有行政管理或董事会监督的身份。AI技术进步已经反映在写新闻、作画、翻译及说话等创作领域上，引发伦理和道德的争议。去年网络大厂在I/O大会上展示拟真人声系统Duplex以超逼真的声音打电话订位招致批评，迫使网络大厂宣布未来测试时，将主动表明是机器人的身份。
原文地址：http://blog.51cto.com/13220658/2351380