アントロピックは今月、Claude Mythosというモデルを発表しました。

リリースするには危険すぎると言われました。
彼らはそれをAWS、Apple、Microsoft、Google、JPMorganの審査済み連合の背後にロックし、次善のモデルの5倍の価格で販売しました。
その売り込みは、それが人間やAIがこれまでに見つけたことのないソフトウェアの脆弱性を見つけることだというものでした。
2週間後、セキュリティ研究者がアントロピックが証明として掲示した正確なバグを抽出し、それらを誰でも動かせる小さくて安価なオープンモデルに入力しました。
そのすべてのモデルが見出したのは、見出しのバグでした。
中国の研究所のオープンウェイトモデルも気づいたのです：アントロピックの発表にはなかったことです。
そのバグはワーム化可能であるということです。
自動的にマシンからマシンへと広がります。
それが深刻な欠陥と、週末に150か国以上の病院をダウンさせるようなものの違いです。