8月7日、Anthropicは AIモデル「Claude Fable 5」における生物学分野の過度な保護機能を緩和したと発表した。安全性重視の仕組みが招いていた無害な質問への誤反応が大幅に減り、利用者の使いやすさが向上したとみられる。
30秒でわかるポイント
- Anthropicが「Claude Fable 5」の生物学分野の制限を緩和
- 無害な質問への誤検知・下位モデルへの切り替え（フォールバック）を約85%削減
- 専門的な二重用途研究への制限は維持
何が起きたのか
Anthropicは、AIモデル「Claude Fable 5」の生物学分野における安全機能の調整を発表した。
このモデルは従来、安全性を重視する設計から、生物学に関する一般的な質問にも過剰に反応する傾向があったという。
その結果、専門性のない質問であっても回答を制限したり、性能の低い下位モデルに処理を回す「フォールバック（本来のモデルではなく代替モデルが対応する仕組み）」が頻発していたとみられる。
誤検知削減の具体的な内容
今回の調整により、こうした誤検知やフォールバックの発生が約85%削減されたと報告されている。
対象となるのは、健康や教育に関する一般的な問い合わせだ。
- 病気の基礎知識を尋ねる質問
- 授業や研究のための生物学的な調べもの
- 日常的な健康相談に関する質問
これらのような、専門的な悪用リスクが低いとされる用途において、AIが不必要に回答を控える場面が減ったことになる。
維持される制限の範囲
一方で、Anthropicは全ての制限を取り払ったわけではない。
「二重用途研究（本来は有益な研究が、悪用されると危険な結果を招く可能性がある研究分野）」に関わる専門的な内容については、引き続き制限を維持するとしている。
つまり、一般利用者向けの利便性を高めつつ、悪用リスクが高いとされる専門領域については従来通りの安全対策を続ける方針とみられる。
このバランス調整により、AIの安全性と実用性の両立を図る狙いがあるとみられる。
今後への注目点
AI企業各社は、安全性確保と利用者の使いやすさのはざまで調整を続けている状況にある。
過度な制限は利用者の不満につながる一方、制限緩和には悪用リスクの懸念も伴う。
今回の発表は、生物学分野という具体的な領域における対応事例として、AIの安全設計の在り方を考える一つの材料になるとみられる。
まとめ
Anthropicは8月7日、Claude Fable 5の生物学分野における制限緩和を発表し、無害な質問への誤検知やフォールバックを約85%削減したことを明らかにした。専門的な二重用途研究への制限は維持されており、利便性と安全性の両立を図る調整だったとみられる。今後も各AI企業による同様の調整が続く可能性がある。
出典: ITmedia NEWS