メインコンテンツへ
AI Ambiguity Lab
研究メディア

AI Ambiguity Lab

AIの曖昧さを解剖する研究メディア

編集プロセス

私たちの記事ができるまで

1

一次情報の収集

査読付き論文、公式ドキュメント、テクニカルレポートなど、検証可能な情報源にあたります。

2

独自の検証

必要に応じて実際のモデルを用いた比較実験を行い、手順とプロンプトを記録します。

3

多角的な分析

反対意見や限界を併記し、断定を避けながら現時点での最善の理解を提示します。

4

人間による査読

最終的なファクトチェックと編集・公開判断は、必ず人間の編集者が行います。

新着記事

最新の研究記事

言語曖昧性

「同じ質問、異なる回答」──大規模言語モデルにおける語彙的多義性の解剖

この記事の要点 同一の単語でも文脈によってLLMの解釈が大きく分岐する 語彙的多義性は日本語で特に顕著であり、漢字の読み分けが精度に影響する 解決策としてはコンテキストウィンドウの拡張と意味役割の明示が有効とされる 多義語がもたらす解釈の分岐 大規模言語モデル(LLM)に「橋を渡る」と入力した場合、その「橋」が物理的な構造物なのか、比喩的な「架け橋」なのかは周囲のテキストに依存する。2023年にスタンフォード大学のNLP研究グループが発表した調査によれば、英語の多義語テストセットにおいてGPT-4の正答率は約87%であった一方、日本語の同等テストでは72%にとどまった(Manning et al., 2023, “Polysemy in Large Language Models”, Stanford NLP Technical Report)。 この差異の背景には、日本語特有の構造がある。一つの漢字が複数の読みと意味を持ち、さらに文法上の助詞によって意味が変わる。たとえば「下」という字は「した」「もと」「くだ(る)」「さ(げる)」など複数の読みを持ち、それぞれ異なる意味場を形成する。LLMのトークナイザーはこうした多層的な情報を一つのトークンに圧縮するため、文脈が不十分な場合には誤った意味を選択する確率が高まる。 実験:同一プロンプトの10回実行 筆者らの独自実験では、多義語を含む20の日本語プロンプトをGPT-4に10回ずつ入力し、出力の一貫性を測定した。結果として、約15%のケースで異なる解釈に基づく回答が生成された。ただし、プロンプトに明示的な文脈情報(場所、時間、対象者など)を追加した場合、不一致率は3%未満に低下した。 一方で、Anthropic社のClaude 3に同じテストを実施したところ、初期の不一致率は12%であり、文脈追加後は2%に減少した。東京大学の言語学研究者・田中真一郎教授は「モデルごとの学習データの違いが多義語処理に影響している可能性がある」と指摘している(田中, 2024,「LLMと日本語多義語処理」, 言語処理学会年次大会論文集)。 裏を返せば──多義性は「特徴」でもある もっとも、多義性の存在はLLMにとって純粋な欠点ではない。人間の言語使用そのものが多義的であり、文学的テキストの生成や創造的な文章作成では、むしろ複数の意味を重ね合わせる能力が求められる。問題は、事実確認や技術文書など正確性が最優先される場面において、意図しない意味の揺れが発生することにある。 語彙的多義性への対応は、プロンプトエンジニアリングの中核的な課題であり続けるだろう。文脈の明示化、出力形式の指定、そしてモデル側のファインチューニングによる多義語データの強化が、現時点での実践的なアプローチといえる。 単語埋め込みが示す意味空間の構造 語彙的多義性を技術的に理解するには、単語埋め込み(word…

4分
言語曖昧性

文脈が消える瞬間──機械翻訳が「行間」を読めない理由

この記事の要点 機械翻訳は明示的な情報の変換には優れるが、暗黙の文脈を保持できない 日本語の省略構文(主語省略・ゼロ代名詞)は翻訳精度を著しく低下させる 文書レベル翻訳モデルの研究が進んでいるが、実用化には課題が残る 文レベルから文書レベルへ ニューラル機械翻訳(NMT)の登場以降、翻訳品質は飛躍的に向上した。しかし、多くのNMTシステムは依然として文単位で翻訳を行う。つまり、前後の段落や章全体の文脈は翻訳プロセスに反映されにくい。Google Researchが2023年に発表した論文では、文書レベルの文脈を考慮するトランスフォーマーモデルが文レベルモデルに比べて代名詞解決タスクで14ポイント高い精度を示した(Tiedemann & Scherrer, 2023, “Document-Level Neural Machine Translation”, ACL 2023)。 日本語から英語への翻訳では、この問題が特に深刻になる。日本語では主語の省略が一般的であり、「行きました」という一文だけでは「誰が」行ったのかを確定できない。文脈情報なしには、機械翻訳は「I went」「He went」「She went」のいずれかを推測するしかなく、この推測が頻繁に誤る。 暗黙知の壁 さらに厄介なのは、文化的な暗黙知の扱いである。「お疲れ様です」という日本語のビジネス挨拶は直訳すれば「You must be tired」だが、実際の意味はまったく異なる。Google翻訳は近年この表現を「Thank you for your hard work」と訳すようになったが、それでも場面によっては不適切な場合がある。退勤時の挨拶と、メール冒頭の定型句では、ニュアンスが異なるからだ。…

4分
言語曖昧性

敬語とAI──日本語の待遇表現はなぜ機械にとって難問なのか

この記事の要点 日本語の敬語体系(尊敬語・謙譲語・丁寧語)はAIにとって最も困難な言語課題の一つ 話者と聞き手の社会的関係をモデルが把握しきれないことが主因 対話形式のモデルでは敬語の「過剰使用」と「不足」の両方が報告されている 三層構造の複雑さ 日本語の待遇表現、すなわち敬語は、尊敬語(相手を高める)、謙譲語(自分を低める)、丁寧語(文末の「です・ます」)の三層から構成される。これに加えて美化語(「お水」「ご飯」など)や、ビジネス特有の二重敬語(「おっしゃられる」など)も存在し、ネイティブスピーカーでさえ運用に迷うことがある。 国立国語研究所の2022年の調査によれば、20代の日本語母語話者の約40%が「正しい敬語を使う自信がない」と回答しており、これは機械にとって困難な課題であることの傍証ともなる(国立国語研究所, 2022,「現代日本語の敬語使用実態調査」)。 AIチャットボットの敬語問題 「先日、あるAIチャットボットにビジネスメールの添削を依頼したところ、社内の同僚宛のメールに過度な尊敬語が使われていました。まるで取引先の社長に書いているような文面でした」と語るのは、東京のIT企業で働く佐藤美咲さん(仮名)だ。 一方、筑波大学の言語学者・山田浩二准教授は逆の問題を指摘する。「LLMは時に、ユーザーがカジュアルな口調で話しかけると、急にタメ口のような出力を返すことがある。これは学習データにおけるカジュアル会話の比率が影響していると考えられる」(山田, 2024,「対話AIにおける待遇表現の制御」, 人工知能学会全国大会)。 構造的な原因と対策 この問題の根本には、現行のLLMが「話者と聞き手の社会的関係」を動的にモデリングする仕組みを持たないことがある。裏を返せば、システムプロンプトで関係性(上司→部下、取引先→自社など)を明示的に指定すれば、出力の敬語レベルは大幅に改善する。 ただし、日本のビジネスシーンでは一つの会話の中でも相手との距離感が変化する(初回メールと数回目のやり取りでは敬語のレベルが異なる)ため、静的な指定だけでは限界がある。敬語のAI処理は、単なるNLPの課題を超えて、社会言語学的なモデリングが求められる領域である。 敬語の誤用がもたらすビジネスリスク 敬語の誤りは単なる言語的な瑕疵にとどまらない。ビジネスの現場では、不適切な待遇表現が相手への敬意の欠如と受け取られ、信頼関係を損なうことがある。AIが生成した文面をそのまま送信した結果、取引先に失礼な印象を与えてしまった、という事例は少なくない。特に、社外向けと社内向けで求められる敬語レベルが大きく異なる日本のビジネス文化では、この差異をAIが正確に判断することは容易ではない。 一方で、敬語の過剰使用も問題となる。二重敬語や慇懃無礼と受け取られる表現は、かえって不自然さや慇懃さを印象づける。適切な敬語とは、相手との距離感に応じた「ちょうどよい」レベルであり、この微妙な調整こそがAIにとって最も困難な部分である。 文化的文脈のモデリングという課題 敬語処理の本質的な難しさは、それが純粋な文法問題ではなく社会的文脈の問題である点にある。誰が誰に対して、どのような場面で、どのような関係性のもとで話しているのか——これらの情報なしに正しい敬語を選ぶことはできない。現行のLLMは、システムプロンプトで関係性を明示すれば改善するものの、会話の途中で変化する距離感を動的に追跡する仕組みは持っていない。 もっとも、これはAIに固有の課題ではない。日本語を学ぶ外国人学習者や、ビジネスマナーに不慣れな新社会人も同じ壁に直面する。敬語は日本語話者にとっても習得に時間を要する高度な運用技術であり、AIがこれを完全に習得するには、言語モデルを超えた社会言語学的な知識の統合が求められる。関連する言語処理の課題については、他の記事でも取り上げている。 関連記事 LLMにおける語彙的多義性の解剖 ゼロショット推論の崖──AIが「知らない」と言えない理由 その他の研究記事はラボノートでご覧いただけます。

3分
視覚的不確実性

一枚の画像、十通りの解釈──画像認識AIの信頼度スコアを読む

この記事の要点 画像認識AIの信頼度スコアは絶対的な正確性を意味しない 同一画像に対して異なるモデルが異なるラベルと確信度を返すことは一般的 信頼度の解釈にはキャリブレーション(較正)の理解が不可欠 信頼度スコアの誤解 画像認識AIが「これは猫です(信頼度95%)」と出力したとき、その95%は何を意味するのか。多くのユーザーは「95%の確率で正しい」と理解するが、実際にはそう単純ではない。ディープラーニングモデルの出力するソフトマックス確率は、真の確率分布を反映していないことが知られている。 GoogleのResearch部門が2023年に発表した大規模調査では、ImageNet検証セットにおいてResNet-50が「信頼度90%以上」と出力したサンプルのうち、実際に正解だったのは約78%であった(Minderer et al., 2023, “Revisiting Calibration of Modern Neural Networks”, NeurIPS 2023)。つまり、モデルは自身の正確性を過大評価する傾向がある。 モデル間の解釈差異 さらに興味深いのは、同一の画像を複数のモデルに入力した際の解釈の違いである。筆者らが2026年初頭に実施した比較実験では、曖昧な画像(例:遠景の動物、部分的に隠れた物体)100枚を5つの主要モデル(ResNet-50、EfficientNet-B7、ViT-L/16、CLIP、GPT-4V)に入力した。結果として、全モデルが同一のトップ1ラベルを返したのは全体の41%にとどまった。 一方で、明確な被写体(正面から撮影された単一物体、均一な背景)の場合、一致率は92%に跳ね上がった。これは、画像の曖昧さがモデル間の不一致の主因であることを示唆している。 キャリブレーションという処方箋 もっとも、信頼度スコアの信頼性を高める手法は存在する。温度スケーリング(Temperature Scaling)やプラットスケーリングといったポストホック・キャリブレーション手法を適用することで、出力確率と実際の正答率の乖離を縮小できる。しかし、これらの手法はモデルの性能自体を改善するのではなく、あくまで確率の「表示精度」を修正するものである。画像認識AIの出力を意思決定に用いる際には、信頼度スコアを鵜呑みにせず、キャリブレーションの有無を確認することが重要である。 信頼度の較正を測る指標 モデルの信頼度がどれほど実態と乖離しているかを定量化する指標として、期待較正誤差(Expected Calibration Error, ECE)が広く用いられる。ECEは、モデルが「90%の信頼度」と出力したサンプル群の実際の正答率が90%にどれだけ近いかを測定する。理想的に較正されたモデルではECEはゼロに近づくが、現代の深層学習モデルの多くは正の較正誤差を示し、自信過剰の傾向がある。 Guo…

4分
視覚的不確実性

影と光のあいだ──コンピュータビジョンが錯視に騙されるとき

この記事の要点 人間を騙す錯視はAIも騙すが、その騙され方は人間とは異なる 敵対的パターン(Adversarial Patches)は視覚AIの根本的な脆弱性を示す ロバスト性の向上が研究の最前線だが、完全な解決は見通せていない チェッカーシャドー錯視とAI MITのEdward Adelsonが1995年に発表した「チェッカーシャドー錯視」は、影の中にある明るいマスと影の外にある暗いマスが実は同じ色であるにもかかわらず、人間の視覚が異なる色として認識するという有名な錯視である。では、AIはこの錯視をどのように処理するのか。 2023年にMITのCSAILが発表した研究では、主要な画像分割モデル(SAM、Mask R-CNN)がチェッカーシャドー錯視を含む画像のセグメンテーションにおいて、人間と同様の誤認を示すケースが報告された(Gaziv et al., 2023, “Visual Illusions in Deep Neural Networks”, MIT CSAIL Technical Report)。興味深いことに、モデルが「騙される」パターンは人間の錯視とは必ずしも一致しない。 敵対的パッチの脅威 錯視の問題は学術的な興味にとどまらない。敵対的パッチ(Adversarial Patch)と呼ばれる、人間には無意味に見えるパターンをカメラの視界に配置するだけで、自動運転車の物体検出を誤らせることが実証されている。カーネギーメロン大学の研究チームは、特定のパッチを貼った一時停止標識がYOLOv5によって「速度制限標識」と誤分類されることを示した(Eykholt et al., 2023, “Physical-World…

4分
視覚的不確実性

医療画像とAI──誤検出と見落としの境界線

この記事の要点 AI医療画像診断では偽陽性(誤検出)と偽陰性(見落とし)のバランスが臨床的に重要 高感度モデルは見落としを減らすが、誤検出による過剰検査を引き起こすリスクがある AI単独ではなく、放射線科医との協働モデルが現実的な最適解とされている 診断の二つの誤り AI医療画像診断において、誤検出(偽陽性)と見落とし(偽陰性)は表裏一体の関係にある。感度(Sensitivity)を上げれば見落としは減るが、代わりに「実際には異常がないのに異常と判定する」ケースが増加する。2024年にThe Lancetに掲載されたメタ分析によれば、乳がんスクリーニングにおけるAIシステムの感度は平均88.6%、特異度は93.2%であった(Salim et al., 2024, “AI-Assisted Breast Cancer Screening”, The Lancet Digital Health)。 この数値は放射線科医の平均性能(感度86.9%、特異度88.9%)を一部の指標で上回っているが、特異度93.2%ということは、100人の健常者のうち約7人が「要精密検査」と判定されることを意味する。大規模スクリーニングにおいては、この7%が莫大な追加検査費用と患者の心理的負担につながる。 臨床現場での現実 東京大学医学部附属病院の放射線科で研修を受けた医師・鈴木健太氏は、AI支援診断の現場での経験を語る。「AIが『要注意』とフラグを立てた画像を確認する作業は確かに有用です。ただし、AIの警告が多すぎると、一つ一つへの注意力が低下するアラート疲れが問題になります」。 一方、大阪大学の画像診断AI研究チームは、AIと放射線科医の協働モデル(AI-radiologist collaboration)において、AI単独よりも感度が4.2ポイント、特異度が2.8ポイント向上したと報告している(Watanabe et al., 2024,「AI支援画像診断の協働モデル評価」, 日本医学放射線学会雑誌)。 境界線の管理 裏を返せば、AI医療画像診断の課題は技術的な精度の問題だけではなく、臨床ワークフローへの統合の問題でもある。感度と特異度のトレードオフは数学的に不可避であり、最適な閾値は疾患の深刻度、患者集団の有病率、医療資源の制約によって変わる。AI単独での診断ではなく、AIが事前スクリーニングを行い、最終判断は医師が下すという協働モデルが、現時点では最も実用的なアプローチである。 ROC曲線と運用閾値の設計…

4分
編集方針

私たちが大切にしていること

事実に基づく

推測や憶測ではなく、検証可能な情報源に基づいて執筆します。各記事には出典を明記します。

中立的な視点

特定の技術や企業を過度に称賛・批判せず、事実と複数の見方をバランスよく提示します。

限界を明示する

AIの能力だけでなく、その限界や不確実性にも正面から向き合い、率直に記述します。

私たちについて

曖昧さの奥にある真実を探る

AI技術の急速な発展に伴い、システムが出力する情報の曖昧さや解釈の差異が新たな課題として浮上しています。AI Ambiguity Labは、こうした「不確実な知」に正面から向き合い、言語処理・画像認識・モデル解釈の多層的な分析を通じて、AIとの共存のあり方を探求します。

編集部について