2024年10月16日，美國(guó)核管會(huì)（NRC）發(fā)布報(bào)告稱，該機(jī)構(gòu)已與美國(guó)非營(yíng)利性機(jī)構(gòu)——西南研究所（Southwest Research Institute）簽署合同，委托后者進(jìn)行一項(xiàng)分析，了解持證單位在利用人工智能（AI）運(yùn)營(yíng)核電廠時(shí)，其規(guī)章制度中存在哪些漏洞。報(bào)告指出，NRC應(yīng)設(shè)計(jì)一個(gè)“故障安全”協(xié)議，以便在AI出現(xiàn)異常時(shí)將核電廠的控制權(quán)交還給人類。

報(bào)告強(qiáng)調(diào)，AI系統(tǒng)極有可能產(chǎn)生異常輸出，因此有必要建立一個(gè)故障安全系統(tǒng)。報(bào)告還探討了在檢測(cè)到錯(cuò)誤時(shí)切斷AI對(duì)電廠系統(tǒng)的訪問(wèn)，并將控制權(quán)交還給人類操作員的可能性。分析發(fā)現(xiàn)，NRC的多數(shù)操作規(guī)程都可以包含一名人類操作員或AI操作員，但仍有一系列需要解決的問(wèn)題。

報(bào)告指出，法規(guī)要求電廠部分自動(dòng)設(shè)備需具備手動(dòng)控制功能，是否應(yīng)在安全系統(tǒng)和控制系統(tǒng)中使用的AI系統(tǒng)中提出類似的要求？同時(shí)，位于設(shè)施內(nèi)的自主控制系統(tǒng)，以及其他位置的通信控制系統(tǒng)等，應(yīng)要求具備何種防護(hù)措施？

現(xiàn)實(shí)中，AI經(jīng)常會(huì)提供錯(cuò)誤或誤導(dǎo)性信息，有時(shí)甚至是完全捏造的信息，這種現(xiàn)象或是由于訓(xùn)練AI應(yīng)用時(shí)的數(shù)據(jù)限制或及其學(xué)習(xí)模型中的偏差等因素造成的。

報(bào)告稱，核電廠持證單位部分行為或超出NRC規(guī)定的界限，包括允許AI接管明確規(guī)定屬于人類職責(zé)的功能。分析發(fā)現(xiàn)，與AI技術(shù)發(fā)生監(jiān)管沖突的主要可能性在于那些明確或隱晦地規(guī)定了人類行動(dòng)的法規(guī)，而這些行動(dòng)可以由AI系統(tǒng)代替執(zhí)行。

報(bào)告補(bǔ)充稱，NRC現(xiàn)行的法規(guī)也有可能出現(xiàn)漏洞。法規(guī)規(guī)定了由人類實(shí)施的行動(dòng)，但這些行動(dòng)也可以通過(guò)AI軟件來(lái)完成。

報(bào)告稱，NRC法規(guī)中另一類常見(jiàn)的漏洞涉及在特殊計(jì)算中使用AI，這主要是由于在如何評(píng)估計(jì)算方面沒(méi)有專門(mén)針對(duì)AI的指南。通常，法規(guī)并不會(huì)說(shuō)明執(zhí)行計(jì)劃必須由人類或AI執(zhí)行，只有少數(shù)例外。例如，在評(píng)估應(yīng)急堆芯冷卻系統(tǒng)和斷裂韌性等非常嚴(yán)重的工況時(shí)，只能由人類進(jìn)行相關(guān)操作。

需要新的NRC指南

報(bào)告建議NRC制定新的指導(dǎo)文件，說(shuō)明需要進(jìn)行哪些類型的測(cè)試和記錄，以增強(qiáng)對(duì)使用AI技術(shù)進(jìn)行計(jì)算和預(yù)測(cè)的信心。此外，報(bào)告還建議NRC部署一個(gè)試點(diǎn)項(xiàng)目，專門(mén)用于評(píng)估現(xiàn)有核電廠持證單位使用AI技術(shù)進(jìn)行的計(jì)算。