研究所

6000 応用科学、医学、工学

「猫の雑学」を加えるだけでAIの誤答率が300～700％増加する【数学問題】 2025.08.14

ナゾロジー
AI・人工知能
AI
プログラミング
教育
数学
猫
言語
「猫の雑学」を加えるだけでAIの誤答率が300～700％増加する【数学問題】
2025.08.14 11:30:50 THURSDAY
AIモデルの一種である大規模言語モデル（LLM）は進化を遂げ、複雑な文章問題や数学の難問ですら解けるようになってきました。
しかし、そんな賢いAIでも「猫は一生のほとんどを寝て過ごします」といった関係のない豆知識を問題文に付け加えるだけで、解答精度が大きく低下することがあるのです。
米カリフォルニア州のソフトウェア企業「Collinear AI」の研究チームは、この現象を体系的に調査し、推論型モデルの脆弱性を明らかにしました。
この攻撃手法は「CatAttack」と名付けられています。
本研究は2025年7月21日付でプレプリントサーバ『arXiv』にて発表されています。
ScienceAdviser: Cats confuse AI
https://www.science.org/content/article/scienceadviser-cats-confuse-ai
Cats Confuse Reasoning LLM: Query Agnostic Adversarial Triggers for Reasoning Models
https://doi.org/10.48550/arXiv.2503.01781
 矢黒尚人
矢黒尚人Naoto Yaguro
ロボットやドローンといった未来技術に強い関心あり。材料工学の観点から新しい可能性を探ることが好きです。趣味は筋トレで、日々のトレーニングを通じて心身のバランスを整えています。
 ナゾロジー 編集部
ナゾロジー 編集部Nazology Editor
youtubeチャンネルナゾロジー
恐竜よりも昔の地球はどんな環境だったのか「ペルム紀末の大量絶滅が起きるまで」
宇宙一美しく複雑なキャッツアイ星雲の謎に迫る【NGC 6543】
恐竜が絶滅した日、地球上では何が起きたのか #shorts
生身で宇宙空間に出たとき、人体はどれだけ耐えられるのか？ #shorts
youtubeリンクアイコン動画一覧
目次
「数学の問題を解けるAI」は、問題文に含まれる「関係ない文章」を除外できる？
関係ない猫の豆知識が入るだけで、最新AIは数学の問題が解けなくなる


※言葉の裏を推論するアルゴリズムが必要？
言葉のトラップを発見し回避しつつ、相手に逆にトラップを仕掛けるカウンター・アルゴリズム？