AIGC：一种生产力的变革

面对（duì）互联网内容生产效（xiào）率提升的迫（pò）切需求，是否能（néng）够利用人工智能（néng）去辅助内容生产？这种继专业生产内容（PGC）、用户生成内（nèi）容（UGC）之后（hòu）形（xíng）成的、完全由人工智能生成内容的创作形式被（bèi）称为AIGC。最初的AIGC通（tōng）常基于小模型展开，这类模型一般需（xū）要（yào）特殊的标注数据训练，以解决特定的场景任务，通用性较差，很（hěn）难被迁移，而且（qiě）高度依赖人工调参。后来，这（zhè）种形式的AIGC逐渐被（bèi）基于大数据（jù）量、大参（cān）数（shù）量、强算法（fǎ）的（de）大模型取代，这种形式的AIGC无须经过调整或（huò）只经（jīng）过少量微调就可以迁移到多种生成（chéng）任务。

2014年（nián）诞生的生成对抗（kàng）网（wǎng）络（GAN）是AIGC早期转向（xiàng）大模型的重要尝试，它利用生成（chéng）器（qì）和判（pàn）别器的相互对抗并结合其他技（jì）术（shù）模块，可（kě）以实现（xiàn）各种模态内容的生成。而到了2017年，变换器（ Transformer）架构的提出，使得深（shēn）度学（xué）习模型（xíng）参数在后（hòu）续的（de）发展中得以突破（pò）1亿（yì）大关。2022年11月30日，开放人（rén）工智能研究（jiū）实验室（shì）（OpenAI）发布（bù）了名为ChatGPT的（de）超级人工智能（AI）对（duì）话模型。ChatGPT不仅可以（yǐ）清晰地理解用户的问（wèn）题（tí），还能（néng）如同人类一（yī）般流畅地回答用（yòng）户的问题，并（bìng）完成（chéng）一些复杂任务，包括按照特定文风撰写诗歌、假扮（bàn）特定角色（sè）对（duì）话（huà）、修改错误代（dài）码等。此外（wài），ChatGPT还表现出一些人类特质，例如（rú）承（chéng）认自己的错误，按照设定的道（dào）德准（zhǔn）则拒绝不怀好意的请求等。ChatGPT一上线，就引（yǐn）发网民（mín）争相体验（yàn），但也有（yǒu）不少人对此表示（shì）担忧，担心作家（jiā）、画家、程序员等职业（yè）在未来都将被人工智能所（suǒ）取代。

虽然存在这些（xiē）担忧（yōu），但（dàn）人类的创造物终究会（huì）帮助人类自身的发展（zhǎn），AIGC无（wú）疑是一种（zhǒng）生（shēng）产力的变革，将（jiāng）世界送入智能（néng）创作时代。在智能创作（zuò）时代，创（chuàng）作者生产力的提升主要表现为（wéi）三个方面：一是代（dài）替创作中的（de）重复环节，提升创作（zuò）效率；二是将创意与创作相（xiàng）分离，内容（róng）创作者可以从人工智能的生成作（zuò）品中（zhōng）找寻灵感与思路；三是综合海（hǎi）量（liàng）预训练的数据（jù）和（hé）模（mó）型（xíng）中引入的随机性（xìng），有（yǒu）利（lì）于拓展创新的边界（jiè），创作（zuò）者可以生产出过去无法想出（chū）的杰（jié）出创意。

技（jì）术伦理（lǐ）成为（wéi）发展（zhǎn）的重（chóng）要关注点

AIGC技术的（de）发展无疑是革命性的。它可以改善（shàn）我（wǒ）们（men）的日常生活，提（tí）高生产力，但也面临着（zhe）诸多技术（shù）伦理方面的挑战。

一（yī）个典型的AIGC技术伦理（lǐ）问题是AI所（suǒ）生（shēng）成内容的危险性。科学家正尝试运用（yòng）一些技术（shù）手段避免这（zhè）些具（jù）有潜在风险的事件发生。通过改（gǎi）善数据集，增加更多的限制性条件以及对（duì）模型进行微调，可以使（shǐ）得人工智能减少对于有（yǒu）害内（nèi）容的学（xué）习，从而降低人工智（zhì）能本身的危险性。甚至我们可以“教会”人（rén）工智能如何更尊重他人，减少判断当中的偏见，更好（hǎo）地和人类相（xiàng）处。借鉴强化学习（xí）思想（xiǎng）（RLHF）方法就是减少人工（gōng）智能生（shēng）成危害（hài）性内容的典型措施，ChatGPT就是采用这（zhè）种方式（shì）训练的。在RLHF的框架下，开发人员会在人工智能做出符合人（rén）类预期回答（dá）时给予（yǔ）奖励，而在做出有害内容的回答时施（shī）加惩罚，这种根据人（rén）类反（fǎn）馈（kuì）信号（hào）直（zhí）接优化语言（yán）模（mó）型的方法可以给予AI积极的引导。然而，即便采用这种方式（shì），AI生成（chéng）的内（nèi）容也（yě）有可能在刻（kè）意诱导的情况下具有危害性。以ChatGPT为例，在一位工（gōng）程师的诱导（dǎo）下，它（tā）写出（chū）了步（bù）骤详细（xì）的毁灭人类计（jì）划书，详细（xì）到入侵各（gè）国计算机系统、控制武（wǔ）器（qì）、破坏通讯（xùn）和交（jiāo）通（tōng）系统等（děng）。还（hái）有一些人表达（dá）了对RLHF这类安全预防性（xìng）技术措施的质疑，他们（men）担忧足够聪明的人工智（zhì）能可能会通（tōng）过（guò）模仿（fǎng）人类的（de）伪装行为来（lái）绕过惩罚（fá），在被监视的（de）时候假装是（shì）好（hǎo）人，等待时（shí）机（jī），等到没有监视的时候再做坏事。

除（chú）了从训（xùn）练角度对AIGC潜在技术伦（lún）理问题进行预防外，在（zài）使用上及时告（gào）警停用的技术措施更（gèng）显必（bì）要。AIGC产品（pǐn）应该对生成的内容（róng）进行一系列合理检测，确保（bǎo）其创作内容不被用于有害（hài）或（huò）非（fēi）法目的，一旦发（fā）现此类用途，人工智能应该可（kě）以（yǐ）立刻（kè）识别，停止提供服务（wù），并且（qiě）给出（chū）警告甚至联系相（xiàng）关监管或（huò）者执法机构。

监管法律正待完善

随着全球范围内的（de）相关法律法规的不（bú）断完善，无（wú）论是赋能产业升级还是自（zì）主释（shì）放价值（zhí），AIGC都将在（zài）健康有（yǒu）序的（de）发展中得到推进。标准规范为（wéi）AIGC生态（tài）构（gòu）建了一个技术（shù）、内容、应用、服务和（hé）监（jiān）管的全（quán）过程一体化标准（zhǔn）体（tǐ）系（xì），促进AIGC在合理、合规和合法的框架下进行（háng）良性发展。

以美国为例（lì），虽然（rán）美（měi）国（guó）在AIGC技术领域起步（bù）较早，且技术布局一（yī）直处于全球领先地（dì）位（wèi），但迄今为止还没有关于AIGC的全面（miàn）联邦立法。考虑到AIGC所涉及的风险以及（jí）滥用可能造（zào）成的严重（chóng）后果（guǒ），美国（guó）正在加速（sù）检查和制定AIGC标准的进程。例如美国国家标准（zhǔn）与技术研究院（NIST）与公共（gòng）和私营部门（mén）就联邦标准（zhǔn）的制（zhì）定进行了讨论，以（yǐ）创建可靠、健全和值得信赖的人工智能系统的基础。与（yǔ）此同时，州立法（fǎ）者也在考虑AIGC的好处和挑战。根据不完全（quán）统计，2022年（nián），至少有17个州提出了AIGC相（xiàng）关的（de）法（fǎ）案或决议，并在（zài）科罗拉多州、伊（yī）利诺伊州、佛蒙特州（zhōu）和华盛顿州颁布。

目前，白宫科（kē）技政策办（bàn）公室已经颁布了10条关于人（rén）工（gōng）智能（néng）法律（lǜ）法规的原则，为制（zhì）定AIGC开发（fā）和使用的监管和（hé）非监（jiān）管方法提供参（cān）考，包括建立公众对人（rén）工智能的信任；鼓励公（gōng）众参与并提高公（gōng）众对人工（gōng）智能标准和技术的认识；将高标准（zhǔn）的科学完整性（xìng）和信息（xī）质量应用于AI和AI决策；以跨学科的方式使（shǐ）用透明（míng）的风险评估和（hé）风险管理方法；在考虑（lǜ）人工智能的开发和部署时评（píng）估全部社（shè）会（huì）成本、收益和其（qí）他外部因素；追求基于性能的灵活方法，以（yǐ）适应人工智能快速变化（huà）的性质（zhì）；评估人工智能应用中（zhōng）的（de）公（gōng）平和非歧视（shì）问题；确（què）定适当的透明度和披露水平（píng）以增加公众信任；保持（chí）控制以（yǐ）确保AI数（shù）据（jù）的机密（mì）性、完（wán）整性和可用性（xìng），从而使开发的（de）AI安全可靠；鼓励机构间协调，以（yǐ）帮助确保人工智能（néng）政策的（de）一致（zhì）性（xìng）和（hé）可预测性。根（gēn）据上述原则框（kuàng）架（jià）以及（jí）AIGC领域后续发展（zhǎn）中（zhōng）的监管实践，在不（bú）远的未来，将（jiāng）会有更多（duō）具体（tǐ）的监管条例落地。