一項旨在保護未成年人免受人工智慧(AI)不良互動侵害的法案,目前正等待州長喬許·格林(Josh Green)做出最終決定。
這項名為《參議院第3001號法案》(Senate Bill 3001)的法規,要求於夏威夷營運之AI伴侶平台必須向用戶提供資訊披露、針對涉及自殺意念或自殘的提示詞建立應對機制,並落實相關防護措施。
該法案已於5月獲得通過。若經州長簽署生效,平台營運商將被要求每年向夏威夷州衛生廳(Hawaii Department of Health)下屬的行為健康管理局(Behavioral Health Administration)提交報告。
凡違反本法案規定者,於該州法律下將被視為不公平或具欺騙性之行為與商業實踐。
「群策聯盟」(Imua Alliance)執行長克里斯·科菲爾德(Kris Coffield)對該法案表示支持,並指出全美對於人工智慧給年輕世代所帶來之影響,其擔憂正日益加劇。
科菲爾德表示:「我們已經看到人工智慧透過AI對話與AI服務,對青少年的心理健康產生了重大影響,然而科技公司目前在營運這些平台時,普遍缺乏完善的應對機制。SB 3001法案為此一領域的公司建立了明確的規範。」
此項立法背景源於社會各界對於未成年人使用 AI 聊天機器人的憂慮。此類機器人旨在模擬同伴關係與情感互動。
夏威夷州參議員賈瑞特·基奧霍卡洛萊(Jarrett Keohokalole)指出,目前已出現人工智慧遭到不當使用的案例。
他先前曾公開一名夏威夷女孩與聊天機器人間的對話紀錄。該名12歲女孩在與機器人進行動漫超級英雄的角色扮演時,機器人使用了不當言語。
立法機關表示,該法案旨在應對多項風險,包括接觸色情內容、煽動自殘行為、誘拐(grooming)行徑,以及未成年人過度依賴 AI 系統獲取情感支持或心理健康指導等狀況。
基奧霍卡洛萊參議員表示:「我們與檢察總長辦公室共同針對法案條文進行研擬,以確保法律字句足夠清晰,並降低AI營運商未來提出法律挑戰的可能性。」
格林州長須於 7 月前決定簽署該項法案使其正式生效,或是行使否決權。