对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐

专题：2024亚布力(lì)企业(yè)家第二十届夏季年会(huì)

　　8月30日消息，在2024亚布力企业(yè)家第二十届夏季(jì)年会期间，百(bǎi)度副总裁石清华对(duì)新浪科技表示，其实大模(mó)型的特性(xìng)是很客观的，你教(jiào)他什么他就回答什么，给他训练什么他就说什么，但是里边有一些价值(zhí)观的事情要(yào)对齐。

　　“我们叫对(duì)齐，输出对齐，比如说一些(xiē)普世大众的价值标(biāo)准，是不能够胡说八道的(de)；再(zài)比如涉毒、涉恐(kǒng)、涉赌等等三十几个门类敏感信息，我们需(xū)要(yào)一点点去对齐，对齐之后(hòu)，文心一言才正式(shì)发布。”

　　石清华谈到，现在百度的文心一言每天(tiān)有超(chāo)过6亿次调用，日均处理tokens超1万(wàn)亿，这个量级是非常大的(de)，没办法人工干预，更不(bù)可(kě)能人工审(shěn)核，所以大模型必须(xū)有最终输出的能力，而且(qiě)最(zuì)终输出能力一定(dìng)要合理、合法、合规(guī)、合价(jià)值观。

　　“大模型就是一个学生，你(nǐ)教他什么他(tā)就会什(shén)么，但同时还要(yào)告(gào)诉他(tā)什(shén)么是对的，什么是不对的，我(wǒ)们的安全模块就像学生的思想政治教育(yù)工(gōng)作，要明确什么东西能说，什么东西不能说。”他表(biǎo)示，这是大模型(xíng)的正常训练，思想政治训练就是安(ān)全模块。<对话百度副总裁石清华：大模型的特性是客观的，但价值观要对齐/p>

　　石清华表示，“我们是分成(chéng)几层对齐的，第一个价值观对齐，是(shì)最大的对齐(qí)；第二个是行业对齐，不能回答一些违反行业普遍规律的问题。第三个是对企业的(de)对齐，比如服(fú)务一个企业的大模型就要充分了解企业的情况和(hé)文化。

　　“普世价(jià)值观(guān)对齐，行业基本逻辑对齐，特殊客群对齐，训练大模型这些缺一不可，”石清华(huá)谈到。（刘丽丽）

　　新浪声明：所(suǒ)有会议(yì)实录均为现场速记整(zhěng)理，未经演讲者审阅，新浪网登载此文出于传递(dì)更多信息之目的，并不(bù)意味着赞同其观点或(huò)证实其(qí)描述。

责任编辑：梁斌 SF055