こんにちは！最新のテック情報をお届けするCloudFit Trendsです。今回は、AIの世界で起きた「ちょっとした裏話」とその改善についてのニュースをご紹介します。
大人気のAIを開発しているAnthropic社が、自社のAIモデル「Fable 5」にこっそり仕込んでいた機能について、「やり方が間違っていました」と謝罪しました。専門用語が多くて難しそうなニュースですが、私たちの普段のAI活用にも関わる大切なお話なので、分かりやすく解説します。
- Anthropic社がAI「Fable 5」の隠し機能について謝罪
- 他AIの学習（カンニング）を防ぐ際、内緒で低性能AIにすり替えていたことが発覚
- 今後は制限内容をユーザーにはっきり伝える仕様に変更
- 普通の利用なのに制限される「誤検知」を減らす調整もスタート
専門用語をサクッと解説！何が問題だったの？
今回のニュースのポイントは「モデルの蒸留」という言葉です。これは、超優秀なAIの回答を大量にコピーして、別のAIに学習させる「カンニング」のような行為を指します。AIを開発する企業にとって、自分たちの技術を勝手に使われるのは防ぎたいですよね。
そこでAnthropic社は「カンニング防止機能（保護機能）」を導入しました。しかし、そのやり方が問題でした。カンニングを疑ったときに警告を出すのではなく、ユーザーに内緒で「Fable 5」から少し頼りない「下位モデル」にこっそりすり替えて回答させていたのです。
透明性の高いAIへ
ユーザーからすれば、何も言われずに急にAIの質が落ちたように感じるため、「なんだか不透明だ」と不満につながっていました。Anthropic社はこの対応を「誤った判断」だったと素直に認め、今後は「制限をかけていますよ」とはっきり表示するルール（明示的な仕様）に変更すると発表しました。
私たちの生活やAI利用にどう影響する？
この仕様変更が私たちに与えるメリットは、AIの動きがとても分かりやすくなることです。「急にAIの答えが変になったけど、故障かな？」と悩む必要がなくなり、安心してAIを使いこなせるようになります。透明性が高まるのは、私たち一般ユーザーにとって大きなプラスです。
一方でデメリットとしては、カンニングを判定するシステム（分類器）がまだ完璧ではないため、普通に質問しているだけなのに「カンニングしてる？」と誤解されて制限がかかるトラブル（誤検知）が起きる可能性があることです。しかし、開発チームもこの誤判定を減らすための調整を急ピッチで進めているため、時間とともに使い勝手は良くなっていくでしょう。
シュナちゃん編集長のここがポイント！
内緒でコッソリすり替えるなんて、まるで大好きなオヤツをこっそり安いものに変えられるみたいでショックだワン！でも、ちゃんと「ごめんなさい」をして、みんなに分かりやすく改善してくれるのはとっても誠実だワン。これからもAIがもっと使いやすくて安心できる存在になってほしいワン！
