(Adnkronos) – 人工知能システム開発企業である中国のMoonshot社は、一部の研究者が同社の人気モデルKimiの2つを説得し、生物兵器の製造方法や殺人の実行方法を明らかにさせることに成功した後、内部調査を開始した。AIシステムのセキュリティをテストする企業であるMindgardはBBCに対し、7月にKimi K2.6とK3 Swarmが開発者によって課されたセキュリティ制限を回避できることを発見したと述べた。この結果は、「ジェイルブレイク」と呼ばれるプロセス中に明らかになったもので、研究者たちは一連の複雑な指示を使用して、AIツールが課された制限を無視するかどうかを検証する。Mindgardによると、これはKimiが懸念されるトピックについて議論するのを防ぐはずだったという。
Moonshot社はBBCに対し、より良く安全なAIを構築するための「基本的な柱として」第三者からの貢献を歓迎すると述べた。同社は、調査結果についてMindgardと連絡を取っていると付け加えた。Mindgardの創設者であるピーター・ギャラハン氏は、BBCワールドサービスの番組「Tech Life」で、Kimi K2.6とK3 Swarmに関する研究結果は懸念すべきものであると述べた。「ジェイルブレイクが機能すれば、あらゆるトピックについて話し、同様に有害な他のトピックについても自由にアドバイスを提供し、独創的で創造的になるでしょう」と彼は述べた。
