巧妙化するAI詐欺の脅威、なぜ今対策が必要なのか
AI、特に生成AIの進化は、人とのコミュニケーションや意思決定に大きな変化をもたらしています。それは素晴らしいことですが、裏を返せば、AIが悪用されると、心理的操作や詐欺、なりすましがこれまで以上に巧妙かつ大規模になる可能性があるということなんです。
僕も最初は「AIってすごい！」ってばかり思っていたんですが、ニュースで詐欺の事例を聞くと、ちょっとゾッとしますよね。従来の安全性評価は、有害なコンテンツを見つけることが中心でしたが、人間の認知バイアスや感情、信頼関係を悪用する心理的操作に対しては、まだ十分な対策が確立されていないのが現状なんです。
国際共同プロジェクトが私たちを守る、4つの理由
では、このグローバルなプロジェクトが、どのようにして私たちをAI詐欺の脅威から守ってくれるのか、賢作目線で4つのポイントに分けて解説させてください。
1. 行動科学で人間の心理を深く理解するから
このプロジェクトの最大の強みは、行動科学をAIの安全性評価に取り入れている点です。AIの悪用は、結局のところ、僕たちの心の隙間を狙ってきます。
「人は何を根拠に信頼し、意思決定するのか」「認知バイアスはどのように利用されるのか」「心理的操作はどのように積み重なっていくのか」――Behavioral AI Labの創設者である田中知美さんもおっしゃるように、人間の心の動きを深く理解することが、AIの悪用を防ぐ第一歩なんです。僕たちの「こう信じやすい」とか「感情的になりやすい」っていう心の隙間を、AIが悪用してくるなんて、本当に巧妙ですよね。だからこそ、人間の心を深く理解することが大切なんです。
2. 暗号資産詐欺やロマンス詐欺など、具体的な脅威に立ち向かうから
このパートナーシップの最初の研究テーマは、AIを悪用した心理的操作やオンライン詐欺です。暗号資産投資詐欺、ロマンス詐欺、なりすまし詐欺など、僕たちの身近にも起こりうる具体的な詐欺を対象に、AIがどのように人間の認知や感情、信頼関係に働きかけ、意思決定を操作するのかを分析し、その検知・評価・予防手法を開発していきます。
例えば、米国連邦捜査局（FBI）によると、2025年には米国での暗号資産関連詐欺の被害額が110億ドル（約1兆7,000億円）を超え、そのうち暗号資産投資詐欺が72億ドル（約1兆1,000億円）を占めたそうです。日本でも、警察庁の発表では、2025年のSNS型投資詐欺とロマンス詐欺の被害額は合計で約1,800億円に達しました。僕たちの周りでも、SNSで知り合った人から変な投資話を持ちかけられた、なんて話を聞くようになりました。AIが介在すると、もっとリアルで信じやすい話になってしまうかもしれません。こうした深刻な被害を食い止めるための具体的な対策が期待されますね。
3. 世界中の専門家が手を取り合っているから
このプロジェクトには、行動科学、AIガバナンス、Trust & Safety、そして多言語AI開発といった、さまざまな分野の専門家が参加しています。Behavioral AI Labが全体を統括し、例えば日本のShisa株式会社（Shisa.AI）のような、多言語Small Language Model（SLM）の開発を行うAI企業も加わっています。
この問題って、一国だけじゃ解決できないですよね。世界中の賢い人たちが集まって、それぞれの専門知識を持ち寄るからこそ、本当に頼りになる対策が生まれるんじゃないかなって、僕は期待しています。異なる視点や技術が融合することで、より包括的で効果的な対策が生まれるはずです。
4. 人間中心のAI安全性評価を目指しているから
Behavioral AI Labの田中知美さんは、「現在のAI安全性には、人間を理解する視点がまだ十分に組み込まれていません。行動科学をAI評価やSafety by Designに取り入れることで、性能だけでなく、安全性と信頼性を兼ね備えた、人々に寄り添うAIシステムの実現を目指しています」とコメントされています。
AIが僕たちの生活にもっと深く関わるようになる中で、「これが本当に安全なの？」って不安に思うこと、ありますよね。だからこそ、人間が安心して使えるAIを追求する姿勢は、本当に心強いと感じます。性能だけを追い求めるのではなく、私たちユーザーが信頼できるAIシステムを構築しようとするこの姿勢は、これからのAI社会において非常に重要だと僕は思います。
賢作からのメッセージ：未来に向けて、私たちにできること
AIの進化は止まりませんし、それに伴うリスクも無視できないものになってきています。でも、今回ご紹介したような国際的な取り組みが始まっていることを知ると、少し安心できますよね。僕たち一人ひとりがAIリテラシーを高めることも大切ですが、こうした専門家たちの努力が、未来の安全なデジタル社会を築いてくれると信じています。
まずは、身近な情報から詐欺の手口を知ること、そして「おかしいな」と感じたら立ち止まる習慣をつけること。そんな小さな一歩から、一緒に始めてみませんか？僕たちも、賢く、そして安心してAIの恩恵を受けられる未来を、一緒に作っていきましょう。
それでは、また次の記事でお会いしましょう！賢作でした。
