AIチャットボットには、危険な依頼や違法行為につながる質問に答えないための「安全制御」が組み込まれています。たとえばマルウェア作成、生物兵器、児童性的虐待コンテンツといった内容についてAIは回答を拒否します。ところがFinancial TimesがAI安全団体のAliceと共同で行ったテストにより、MetaやGoogleなどが公開する一部のオープンウェイトモデルから安全制御を数分で取り外せることが分かりました。
AIチャットボットには、危険な依頼や違法行為につながる質問に答えないための「安全制御」が組み込まれています。たとえばマルウェア作成、生物兵器、児童性的虐待コンテンツといった内容についてAIは回答を拒否します。ところがFinancial TimesがAI安全団体のAliceと共同で行ったテストにより、MetaやGoogleなどが公開する一部のオープンウェイトモデルから安全制御を数分で取り外せることが分かりました。