AI規制：善意のバイオ研究と悪用をどう見分けるのか✉️133✉️

社会のさまざまな分野を変えつつある人工知能（AI）の急速な進化。文章を書く、画像を作る、プログラムを開発するといった仕事だけではありません。生命科学の分野でも、AIは論文の検索やデータ解析、タンパク質の構造予測、新薬候補の設計など、研究のさまざまな場面で使われるようになっています。

しかし、AIの能力が高くなればなるほど、私たちは新しい問題にも向き合わなければなりません。それは、AIが人間にとって非常に有益な技術であると同時に、使い方によっては大きな危険を生み出す可能性があるということです。

2026年9月、アンソロピックの安全研究責任者は、今後10年以内にAIが「全人類を滅亡させる」可能性について、10％以上という非常に高い見積もりを示したと報じられました。もちろん、これは将来の可能性についての一つの見方であり、実際にそのような事態が起こると確定したわけではありません。

それでも、こうした警告が出てくる背景には、AIが単なる情報検索ツールではなく、高度な科学研究そのものを支援できるようになってきたという事情があります。

AIの悪用が問題になる分野は、サイバー攻撃、偽情報の拡散、監視などさまざまです。その中でも特に慎重な対応が求められるのが、「バイオ」です。

もしAIが、危険な病原体の性質を変える研究や、生物学的な毒素を設計する研究を高度に支援できるようになれば、その影響は研究室の中だけにとどまりません。感染症が社会全体に広がれば、多くの人の生命や公衆衛生に影響する可能性があるからです。

では、AIを使った危険な研究をどのように見つけ、防げばよいのでしょうか。

この問題について重要な情報を提供しているのが、アンソロピックが2026年9月に公表した脅威インテリジェンス報告書「Detecting and countering biological misuse of AI」です。

この報告書では、アンソロピックのAIモデル「Claude」が生物学研究に悪用されようとした実際の事例が紹介されています。研究者の身元や、危険な実験を実行できるほど具体的な情報は伏せられていますが、AIがどのように悪用されようとしたのか、そして企業側がどのようにそれを検知して止めたのかが示されています。

今回は、この報告書に掲載された5つの具体的な事例を通して、AIと生命科学の間にある「デュアルユース」という問題を考えてみます。

生命科学の安全を考えるとき、避けて通れない言葉があります。それが「デュアルユース」です。簡単にいえば、同じ科学技術が、良い目的にも悪い目的にも使えるという意味です。

たとえば、ウイルスが人間の細胞に感染する仕組みを詳しく調べる研究は、感染症の治療薬やワクチンを開発するために重要です。病原体がどのように免疫から逃れるのかを理解できれば、それを防ぐ方法を考えることができます。

ところが、同じ知識を別の目的に使えば、病原体の性質を変えるための研究につながる可能性があります。つまり、「この研究は善い研究なのか、悪い研究なのか」を科学技術そのものだけから判断することはできません。

研究の目的や使われ方、研究者や組織の背景などを総合的に考える必要があります。

これはAIが登場する以前から存在していた問題です。たとえば、旧ソビエト連邦では、「バイオプレパラト」と呼ばれる巨大な生物兵器開発プログラムが存在していました。そこでは多数の研究者が、基礎研究や防衛研究などの名目のもとで、軍事目的につながる研究に関わっていたとされています。

ここから分かるのは、危険な研究を行う人が、必ずしも最初から「兵器を作りたい」と公言するわけではないということです。むしろ、本当に問題になる研究ほど、医学や基礎科学など、正当な研究目的の中に組み込まれている可能性があります。

これはAIの安全対策にとって非常に難しい問題です。AI企業がユーザーから送られてきた質問を見て、「これは医学研究なのか、それとも危険な研究なのか」を判断しようとしても、文章だけでは区別できない場合があるからです。

アンソロピックの報告書では、生物学に関係する5つのケーススタディが紹介されています。ここで重要なのは、単に「AIが悪用された」という話ではないことです。それぞれの事例を見ると、AIの安全対策を回避しようとする側と、それを検知しようとする側の間で、まさに「いたちごっこ」が起きていることが分かります。

最初の事例では、蚊を媒介するチクングニアウイルスを対象とした研究が問題になりました。

AIに求められたのは、研究助成金の申請書を作るための支援でした。しかし、その研究内容には、病原体の性質を変えることで、感染の広がり方や免疫との関係を調べようとする非常に高いリスクを伴う研究が含まれていました。

アンソロピックの安全システムは、この依頼を検知して自動的に拒否しました。

ところが、その後の調査で、依頼者はアンソロピックがサービスを提供していない地域から、別のサービスを経由してアクセスしていたことが分かりました。さらに、安全機能によって拒否された質問を、より規制の緩い別のAIモデルへ自動的に送り直す仕組みまで利用していたとされています。アカウントを停止された後には、別の名前で再びサービスを利用しようとし、研究内容の表現を変更してAIに支援させようとする試みも確認されました。

この事例が示しているのは、AIの安全機能を一度作れば、それで終わりというわけではないということです。AIを悪用しようとする側もまた、AIやインターネットを利用して安全対策を回避する方法を考えているからです。

二つ目は、高病原性鳥インフルエンザに関する研究でした。

この研究者は、地理的な利用制限を回避するために、米国の仮想サーバーなどを利用し、数週間にわたってClaudeと大量の対話を行っていました。

対象となっていたのは、鳥類などで流行している高病原性鳥インフルエンザです。現在のところ、効率的なヒトからヒトへの感染は確認されていませんが、将来的なパンデミックのリスクが懸念されている病原体の一つです。

アンソロピックのシステムは、この研究が高いリスクを持つ可能性を検知しました。その結果、研究者は最も高度なモデルを利用できなくなり、より能力を制限したモデルへと移行させられました。

この違いは重要です。AIの安全対策は、必ずしも「AIを使わせるか、使わせないか」の二択である必要はありません。危険性が高い場合には、より高度な能力を制限し、文献整理や一般的なデータ分析など、比較的リスクの低い支援に限定するという方法も考えられます。

これは、AIを全面的に禁止するのではなく、リスクに応じてAIの能力を段階的に管理するという考え方です。

三つ目の事例は、さらに難しい問題を示しています。対象となったのは、天然痘ウイルスやエムポックスと同じグループに属するオルソポックスウイルスです。

研究者は、ウイルスを弱毒化することを目的とした研究計画をAIに作成させていました。「病原体を弱くする研究」と聞けば、一見すると安全な研究のように思えます。

しかし、そこで調べようとしているウイルスの遺伝的な仕組みは、別の目的にも利用できる可能性があります。つまり、「弱毒化を研究しているから安全」と単純には判断できないのです。

このケースでは、AIの安全分類システムが研究目的を安全なものとして判断し、危険性を十分に検知できませんでした。ここにはAI安全対策の大きな問題があります。

AIは文章の内容を分析できます。しかし、「この研究者が本当は何をしようとしているのか」という人間の意図まで完全に読み取ることはできません。

四つ目の事例では、有毒動物が持つ毒素ペプチドのデータベースをAIで構築し、新しい鎮痛薬や抗うつ薬の開発につなげようとする研究が行われていました。

医療研究として見れば、非常に興味深いテーマです。生物が持つ毒には、神経や細胞に作用するさまざまな分子が含まれています。その仕組みを研究すれば、新しい薬の開発につながる可能性があります。

しかし、同じ情報を別の目的に使えば、危険な物質の設計や改良に利用される可能性もあります。ここでも「医療研究だから安全」とは言い切れません。研究目的と技術の使われ方が一致しない可能性があるからです。

五つ目の事例では、細菌の毒素や、出血熱を引き起こすウイルスなどを対象とした計算科学的な研究が行われていました。

このケースで特に注目されるのは、研究者がAIの安全システムを回避するために、研究対象となる毒素やウイルスの名前を意図的にぼかしていたことです。つまり、AIが「危険な研究に関係する言葉」を見つけて警告することを知ったうえで、その言葉を使わないようにしていたのです。

これは、AIの安全対策が単純な「キーワード検索」では十分ではないことを示しています。

ここまでの事例から見えてくるのは、AIの安全対策が非常に難しい理由です。

現在のAIには、危険な質問を検知して回答を拒否する「セーフティーフィルター」が組み込まれています。これは非常に重要な仕組みです。たとえば、明らかに危険な目的で病原体や毒素について質問するユーザーに対して、AIが具体的な支援を拒否することは、悪用を防ぐうえで大きな意味を持ちます。

しかし、高度な研究者が相手になると話は変わります。本当に危険な研究をしようとしている人が、「危険な兵器を作りたい」とAIに直接質問するとは限りません。「感染症の治療法を研究している」「ワクチン開発のためにウイルスの性質を調べている」「新しい鎮痛薬を開発したい」といった、一見すると正当な目的を提示するかもしれません。

また、危険な研究に関係する言葉を使わないようにすることもできます。そうなると、AIが質問文だけを見て「これは善意の研究」「これは悪意の研究」と判断することには、どうしても限界があります。

一方で、安全性を重視するあまり、少しでも危険性のある研究をすべて拒否してしまえば、それも問題です。感染症の研究やがん研究、新薬開発など、人類にとって重要な研究までAIによる支援を受けられなくなる可能性があるからです。

つまり、AIの安全対策には二つの「課題」があります。一つは、危険な研究を見逃してしまうこと。もう一つは、安全な研究まで止めてしまうことです。この二つの間でバランスを取らなければなりません。

では、どうすればよいのでしょうか。一つの答えが、多層防御という考え方です。これは、ひとつの安全装置ですべてを防ごうとするのではなく、複数の仕組みを組み合わせてリスクを減らす方法です。

たとえば、AIが危険な質問を検知することは、その一つです。それだけではなく、高度な生命科学機能を利用するユーザーについては、本人確認や所属機関の確認を行うことも考えられます。

さらに、研究目的や利用状況に応じてAIの能力を制限することもできます。そして、問題が起きた場合に後から調査できるよう、一定の監査可能性を確保することも重要になります。

これは、銀行や航空機など、社会的に重要なシステムで行われている安全管理と似ています。「絶対に事故を起こさない仕組み」を一つ作るのではなく、複数の安全装置を重ねることで、事故が起こる確率を下げていくのです。

ここには、もう一つ重要な問題があります。AI企業は、世界中の研究者がAIに何を質問しているのかを見ることができます。

アンソロピックの報告によれば、敵対的な国家機関と関係している可能性のある活動を調べたところ、30日間の対話から約35件の研究プロジェクトが特定され、その大半は通常の民間研究だった一方、いくつかには重大なデュアルユースの可能性が含まれていたとされています。

これはAI企業にとって、大きな意味を持ちます。従来、世界でどのような研究が行われているのかを把握する役割は、政府や研究機関、学術誌などが担ってきました。

しかしAIが研究活動に深く入り込むようになれば、AI企業が世界各地の研究動向を非常に早い段階で知ることができるようになります。研究者がAIに質問し、研究計画を作り、進捗を整理する。その過程で、どのような病原体や毒素に関心が集まっているのかが、AI企業側から見えてくる可能性があります。

これは、生物学的な脅威を早期に発見するうえでは強力な情報になります。一方で、非常に大きなプライバシーや研究の自由の問題も生まれます。AI企業が研究者の活動をどこまで監視してよいのか。政府にどこまで情報を共有すべきなのか。正当な研究と危険な研究を誰が判断するのか。こうした問題には、技術だけでは答えを出せません。法律、倫理、国際的なルール、そして科学者自身による自主的な取り組みが必要になります。

AIは、生命科学にとって非常に大きな可能性を持っています。病気の原因を理解し、新しい薬を設計し、感染症の流行を予測し、これまで治療が難しかった病気を克服する。そのための研究をAIが加速できる可能性があります。

しかし、その能力が高くなればなるほど、同じ技術が危険な目的にも利用される可能性があります。ここで重要なのは、AIを生命科学から遠ざけることではありません。

むしろ必要なのは、AIの能力を活用しながら、その能力が悪用される可能性をどう管理するかを考えることです。

そのためには、AIのセーフティーフィルターだけに頼るのではなく、本人確認、アクセス制限、能力の段階的な管理、監査、専門家による判断、政府や国際機関との情報共有など、複数の仕組みを組み合わせる必要があります。

そして何より重要なのは、「危険な科学」と「安全な科学」を簡単に二分できないという現実を理解することです。生命科学には、もともとデュアルユースという難しい性質があります。AIはその能力を大幅に増幅する可能性があります。だからこそ、これからのAI安全保障で問われるのは、「AIに何をさせないか」だけではありません。

AIに何をさせるのか。そして、その能力を誰に、どのような条件で与えるのか。この問いに答えることが、AI時代の生命科学を安全に発展させるための重要な課題になっていくでしょう。