(资料图片)

Elon Musk于2023年4月受访时表示，将推出名为TruthGPT的AI平台来迎战ChatGPT，透过理解宇宙本质来发展寻求真相的AI。 Musk认为人类是构成宇宙有趣的一部份，关心理解宇宙本质的AI不太可能毁灭人类，而是通往安全的最佳途径。

TruthGPT或将强化模型的可解释性

先前Musk与多位著名人士共同联署声明，试图暂停6个月训练比GPT-4更强大的模型，同时强调AI发展中的安全性及责任性，以防止人工智能在发展过程中成为脱缰野马，最后招致不可挽回的结果，而后Musk公布将推出TruthGPT来迎战ChatGPT，并认为AI的基础应基于理解宇宙本质及寻求真相。

AI的黑箱问题在于过于庞大的数据量，在如时间、效率等诸多限制下，大量的演算过程难以检证，使真相变得更加混杂，也因此如何强化可解释性AI(Explainable AI，XAI)或将是TruthGPT的发展重点。

TruthGPT可望在兼具安全的情况下，朝向更开放的AI平台发展

以目前大型模型采用「从人类反馈的增强式学习(Reinforcement Learning from Human Feedback，RLHF)」进行标记的状况而言，当受到使用者偏好及手动标注，使AI的生成内容即显示用户的普遍偏好，从而产生强化部分群体价值的可能。

文明的构成来自于群体对某些价值的认同与共享，透过异同或相似性来进行分类，RLHF的训练方式确实可让AI走向操控社会舆论的发展方向，从而构成某种文明或造成破坏。为避免导致大量已知的偏好信息来形成未知的后果，TruthGPT可望在兼具安全的情况下，朝向更开放的AI平台发展，但同时也使TruthGPT在数据或模型的选择上将产生更大挑战。 （文： 拓墣产业研究院 ）