英國首相基爾·斯塔默在新的兒童安全推動中瞄準人工智慧聊天機器人

英國首相基爾·斯塔默（Keir Starmer）已提出將人工智慧聊天機器人納入更嚴格的線上安全規範的計劃，並警告新興技術正以政策制定者無法忽視的方式重塑童年。

摘要

• 英國首相基爾·斯塔默表示計劃擴展線上安全法規，涵蓋兒童使用的人工智慧聊天機器人。
• 政府擔心的風險包括不適當內容、情感依賴以及未受規範的AI生成建議。
• 公眾諮詢將審查新的監管權力，以確保在英國運行的AI工具對未成年人安全。

人工智慧聊天機器人可能很快受到英國更嚴格的規範，以保護未成年人

在最近的Substack更新中，斯塔默表示，對年輕人的保護必須與快速發展的人工智慧工具同步演進。儘管有關線上危害的討論多集中在社交媒體上，但他認為，現在由AI驅動的聊天機器人帶來了新的複雜風險，尤其是對兒童和青少年的影響。

斯塔默指出，英國政府正在考慮擴展現有的線上安全法規，明確涵蓋AI系統。聊天機器人越來越多地嵌入應用程式、搜尋引擎和獨立平台，經常與用戶進行高度個人化、類似人類的對話。

對於年輕用戶，他警告，這可能模糊資訊、影響與操控之間的界線。

首相提到的擔憂範圍包括接觸不適當內容、情感依賴以及未受控制的建議。與傳統平台不同，AI系統能即時生成回應，使得監督和管理變得更加困難。

他建議，隨著技術的發展，議會可能需要新的監管權力來快速應對。

斯塔默將此議題視為更廣泛努力的一部分，旨在“給予兒童成長的空間”，避免被不透明的算法或未受規範的數位系統塑造。他強調，創新不應以安全為代價，科技公司必須對其工具的設計和部署承擔更大責任。

預計將進行公眾諮詢，以探討如何最佳規範由未成年人使用的AI驅動服務。待證據收集完畢後，斯塔默表示政府將迅速採取行動，暗示AI聊天機器人可能成為英國下一階段線上安全改革的核心焦點。