メインコンテンツへ
AI Ambiguity Lab

記事一覧

言語曖昧性

「同じ質問、異なる回答」──大規模言語モデルにおける語彙的多義性の解剖

この記事の要点 同一の単語でも文脈によってLLMの解釈が大きく分岐する 語彙的多義性は日本語で特に顕著であり、漢字の読み分けが精度に影響する 解決策としてはコンテキストウィンドウの拡張と意味役割の明示が有効とされる 多義語がもたらす解釈の分岐 大規模言語モデル(LLM)に「橋を渡る」と入力した場合、その「橋」が物理的な構造物なのか、比喩的な「架け橋」なのかは周囲のテキストに依存する。2023年にスタンフォード大学のNLP研究グループが発表した調査によれば、英語の多義語テストセットにおいてGPT-4の正答率は約87%であった一方、日本語の同等テストでは72%にとどまった(Manning et al., 2023, “Polysemy in Large Language Models”, Stanford NLP Technical Report)。 この差異の背景には、日本語特有の構造がある。一つの漢字が複数の読みと意味を持ち、さらに文法上の助詞によって意味が変わる。たとえば「下」という字は「した」「もと」「くだ(る)」「さ(げる)」など複数の読みを持ち、それぞれ異なる意味場を形成する。LLMのトークナイザーはこうした多層的な情報を一つのトークンに圧縮するため、文脈が不十分な場合には誤った意味を選択する確率が高まる。 実験:同一プロンプトの10回実行 筆者らの独自実験では、多義語を含む20の日本語プロンプトをGPT-4に10回ずつ入力し、出力の一貫性を測定した。結果として、約15%のケースで異なる解釈に基づく回答が生成された。ただし、プロンプトに明示的な文脈情報(場所、時間、対象者など)を追加した場合、不一致率は3%未満に低下した。 一方で、Anthropic社のClaude 3に同じテストを実施したところ、初期の不一致率は12%であり、文脈追加後は2%に減少した。東京大学の言語学研究者・田中真一郎教授は「モデルごとの学習データの違いが多義語処理に影響している可能性がある」と指摘している(田中, 2024,「LLMと日本語多義語処理」, 言語処理学会年次大会論文集)。 裏を返せば──多義性は「特徴」でもある もっとも、多義性の存在はLLMにとって純粋な欠点ではない。人間の言語使用そのものが多義的であり、文学的テキストの生成や創造的な文章作成では、むしろ複数の意味を重ね合わせる能力が求められる。問題は、事実確認や技術文書など正確性が最優先される場面において、意図しない意味の揺れが発生することにある。 語彙的多義性への対応は、プロンプトエンジニアリングの中核的な課題であり続けるだろう。文脈の明示化、出力形式の指定、そしてモデル側のファインチューニングによる多義語データの強化が、現時点での実践的なアプローチといえる。 単語埋め込みが示す意味空間の構造 語彙的多義性を技術的に理解するには、単語埋め込み(word…

4分
言語曖昧性

文脈が消える瞬間──機械翻訳が「行間」を読めない理由

この記事の要点 機械翻訳は明示的な情報の変換には優れるが、暗黙の文脈を保持できない 日本語の省略構文(主語省略・ゼロ代名詞)は翻訳精度を著しく低下させる 文書レベル翻訳モデルの研究が進んでいるが、実用化には課題が残る 文レベルから文書レベルへ ニューラル機械翻訳(NMT)の登場以降、翻訳品質は飛躍的に向上した。しかし、多くのNMTシステムは依然として文単位で翻訳を行う。つまり、前後の段落や章全体の文脈は翻訳プロセスに反映されにくい。Google Researchが2023年に発表した論文では、文書レベルの文脈を考慮するトランスフォーマーモデルが文レベルモデルに比べて代名詞解決タスクで14ポイント高い精度を示した(Tiedemann & Scherrer, 2023, “Document-Level Neural Machine Translation”, ACL 2023)。 日本語から英語への翻訳では、この問題が特に深刻になる。日本語では主語の省略が一般的であり、「行きました」という一文だけでは「誰が」行ったのかを確定できない。文脈情報なしには、機械翻訳は「I went」「He went」「She went」のいずれかを推測するしかなく、この推測が頻繁に誤る。 暗黙知の壁 さらに厄介なのは、文化的な暗黙知の扱いである。「お疲れ様です」という日本語のビジネス挨拶は直訳すれば「You must be tired」だが、実際の意味はまったく異なる。Google翻訳は近年この表現を「Thank you for your hard work」と訳すようになったが、それでも場面によっては不適切な場合がある。退勤時の挨拶と、メール冒頭の定型句では、ニュアンスが異なるからだ。…

4分
言語曖昧性

敬語とAI──日本語の待遇表現はなぜ機械にとって難問なのか

この記事の要点 日本語の敬語体系(尊敬語・謙譲語・丁寧語)はAIにとって最も困難な言語課題の一つ 話者と聞き手の社会的関係をモデルが把握しきれないことが主因 対話形式のモデルでは敬語の「過剰使用」と「不足」の両方が報告されている 三層構造の複雑さ 日本語の待遇表現、すなわち敬語は、尊敬語(相手を高める)、謙譲語(自分を低める)、丁寧語(文末の「です・ます」)の三層から構成される。これに加えて美化語(「お水」「ご飯」など)や、ビジネス特有の二重敬語(「おっしゃられる」など)も存在し、ネイティブスピーカーでさえ運用に迷うことがある。 国立国語研究所の2022年の調査によれば、20代の日本語母語話者の約40%が「正しい敬語を使う自信がない」と回答しており、これは機械にとって困難な課題であることの傍証ともなる(国立国語研究所, 2022,「現代日本語の敬語使用実態調査」)。 AIチャットボットの敬語問題 「先日、あるAIチャットボットにビジネスメールの添削を依頼したところ、社内の同僚宛のメールに過度な尊敬語が使われていました。まるで取引先の社長に書いているような文面でした」と語るのは、東京のIT企業で働く佐藤美咲さん(仮名)だ。 一方、筑波大学の言語学者・山田浩二准教授は逆の問題を指摘する。「LLMは時に、ユーザーがカジュアルな口調で話しかけると、急にタメ口のような出力を返すことがある。これは学習データにおけるカジュアル会話の比率が影響していると考えられる」(山田, 2024,「対話AIにおける待遇表現の制御」, 人工知能学会全国大会)。 構造的な原因と対策 この問題の根本には、現行のLLMが「話者と聞き手の社会的関係」を動的にモデリングする仕組みを持たないことがある。裏を返せば、システムプロンプトで関係性(上司→部下、取引先→自社など)を明示的に指定すれば、出力の敬語レベルは大幅に改善する。 ただし、日本のビジネスシーンでは一つの会話の中でも相手との距離感が変化する(初回メールと数回目のやり取りでは敬語のレベルが異なる)ため、静的な指定だけでは限界がある。敬語のAI処理は、単なるNLPの課題を超えて、社会言語学的なモデリングが求められる領域である。 敬語の誤用がもたらすビジネスリスク 敬語の誤りは単なる言語的な瑕疵にとどまらない。ビジネスの現場では、不適切な待遇表現が相手への敬意の欠如と受け取られ、信頼関係を損なうことがある。AIが生成した文面をそのまま送信した結果、取引先に失礼な印象を与えてしまった、という事例は少なくない。特に、社外向けと社内向けで求められる敬語レベルが大きく異なる日本のビジネス文化では、この差異をAIが正確に判断することは容易ではない。 一方で、敬語の過剰使用も問題となる。二重敬語や慇懃無礼と受け取られる表現は、かえって不自然さや慇懃さを印象づける。適切な敬語とは、相手との距離感に応じた「ちょうどよい」レベルであり、この微妙な調整こそがAIにとって最も困難な部分である。 文化的文脈のモデリングという課題 敬語処理の本質的な難しさは、それが純粋な文法問題ではなく社会的文脈の問題である点にある。誰が誰に対して、どのような場面で、どのような関係性のもとで話しているのか——これらの情報なしに正しい敬語を選ぶことはできない。現行のLLMは、システムプロンプトで関係性を明示すれば改善するものの、会話の途中で変化する距離感を動的に追跡する仕組みは持っていない。 もっとも、これはAIに固有の課題ではない。日本語を学ぶ外国人学習者や、ビジネスマナーに不慣れな新社会人も同じ壁に直面する。敬語は日本語話者にとっても習得に時間を要する高度な運用技術であり、AIがこれを完全に習得するには、言語モデルを超えた社会言語学的な知識の統合が求められる。関連する言語処理の課題については、他の記事でも取り上げている。 関連記事 LLMにおける語彙的多義性の解剖 ゼロショット推論の崖──AIが「知らない」と言えない理由 その他の研究記事はラボノートでご覧いただけます。

3分
視覚的不確実性

一枚の画像、十通りの解釈──画像認識AIの信頼度スコアを読む

この記事の要点 画像認識AIの信頼度スコアは絶対的な正確性を意味しない 同一画像に対して異なるモデルが異なるラベルと確信度を返すことは一般的 信頼度の解釈にはキャリブレーション(較正)の理解が不可欠 信頼度スコアの誤解 画像認識AIが「これは猫です(信頼度95%)」と出力したとき、その95%は何を意味するのか。多くのユーザーは「95%の確率で正しい」と理解するが、実際にはそう単純ではない。ディープラーニングモデルの出力するソフトマックス確率は、真の確率分布を反映していないことが知られている。 GoogleのResearch部門が2023年に発表した大規模調査では、ImageNet検証セットにおいてResNet-50が「信頼度90%以上」と出力したサンプルのうち、実際に正解だったのは約78%であった(Minderer et al., 2023, “Revisiting Calibration of Modern Neural Networks”, NeurIPS 2023)。つまり、モデルは自身の正確性を過大評価する傾向がある。 モデル間の解釈差異 さらに興味深いのは、同一の画像を複数のモデルに入力した際の解釈の違いである。筆者らが2026年初頭に実施した比較実験では、曖昧な画像(例:遠景の動物、部分的に隠れた物体)100枚を5つの主要モデル(ResNet-50、EfficientNet-B7、ViT-L/16、CLIP、GPT-4V)に入力した。結果として、全モデルが同一のトップ1ラベルを返したのは全体の41%にとどまった。 一方で、明確な被写体(正面から撮影された単一物体、均一な背景)の場合、一致率は92%に跳ね上がった。これは、画像の曖昧さがモデル間の不一致の主因であることを示唆している。 キャリブレーションという処方箋 もっとも、信頼度スコアの信頼性を高める手法は存在する。温度スケーリング(Temperature Scaling)やプラットスケーリングといったポストホック・キャリブレーション手法を適用することで、出力確率と実際の正答率の乖離を縮小できる。しかし、これらの手法はモデルの性能自体を改善するのではなく、あくまで確率の「表示精度」を修正するものである。画像認識AIの出力を意思決定に用いる際には、信頼度スコアを鵜呑みにせず、キャリブレーションの有無を確認することが重要である。 信頼度の較正を測る指標 モデルの信頼度がどれほど実態と乖離しているかを定量化する指標として、期待較正誤差(Expected Calibration Error, ECE)が広く用いられる。ECEは、モデルが「90%の信頼度」と出力したサンプル群の実際の正答率が90%にどれだけ近いかを測定する。理想的に較正されたモデルではECEはゼロに近づくが、現代の深層学習モデルの多くは正の較正誤差を示し、自信過剰の傾向がある。 Guo…

4分
視覚的不確実性

影と光のあいだ──コンピュータビジョンが錯視に騙されるとき

この記事の要点 人間を騙す錯視はAIも騙すが、その騙され方は人間とは異なる 敵対的パターン(Adversarial Patches)は視覚AIの根本的な脆弱性を示す ロバスト性の向上が研究の最前線だが、完全な解決は見通せていない チェッカーシャドー錯視とAI MITのEdward Adelsonが1995年に発表した「チェッカーシャドー錯視」は、影の中にある明るいマスと影の外にある暗いマスが実は同じ色であるにもかかわらず、人間の視覚が異なる色として認識するという有名な錯視である。では、AIはこの錯視をどのように処理するのか。 2023年にMITのCSAILが発表した研究では、主要な画像分割モデル(SAM、Mask R-CNN)がチェッカーシャドー錯視を含む画像のセグメンテーションにおいて、人間と同様の誤認を示すケースが報告された(Gaziv et al., 2023, “Visual Illusions in Deep Neural Networks”, MIT CSAIL Technical Report)。興味深いことに、モデルが「騙される」パターンは人間の錯視とは必ずしも一致しない。 敵対的パッチの脅威 錯視の問題は学術的な興味にとどまらない。敵対的パッチ(Adversarial Patch)と呼ばれる、人間には無意味に見えるパターンをカメラの視界に配置するだけで、自動運転車の物体検出を誤らせることが実証されている。カーネギーメロン大学の研究チームは、特定のパッチを貼った一時停止標識がYOLOv5によって「速度制限標識」と誤分類されることを示した(Eykholt et al., 2023, “Physical-World…

4分
視覚的不確実性

医療画像とAI──誤検出と見落としの境界線

この記事の要点 AI医療画像診断では偽陽性(誤検出)と偽陰性(見落とし)のバランスが臨床的に重要 高感度モデルは見落としを減らすが、誤検出による過剰検査を引き起こすリスクがある AI単独ではなく、放射線科医との協働モデルが現実的な最適解とされている 診断の二つの誤り AI医療画像診断において、誤検出(偽陽性)と見落とし(偽陰性)は表裏一体の関係にある。感度(Sensitivity)を上げれば見落としは減るが、代わりに「実際には異常がないのに異常と判定する」ケースが増加する。2024年にThe Lancetに掲載されたメタ分析によれば、乳がんスクリーニングにおけるAIシステムの感度は平均88.6%、特異度は93.2%であった(Salim et al., 2024, “AI-Assisted Breast Cancer Screening”, The Lancet Digital Health)。 この数値は放射線科医の平均性能(感度86.9%、特異度88.9%)を一部の指標で上回っているが、特異度93.2%ということは、100人の健常者のうち約7人が「要精密検査」と判定されることを意味する。大規模スクリーニングにおいては、この7%が莫大な追加検査費用と患者の心理的負担につながる。 臨床現場での現実 東京大学医学部附属病院の放射線科で研修を受けた医師・鈴木健太氏は、AI支援診断の現場での経験を語る。「AIが『要注意』とフラグを立てた画像を確認する作業は確かに有用です。ただし、AIの警告が多すぎると、一つ一つへの注意力が低下するアラート疲れが問題になります」。 一方、大阪大学の画像診断AI研究チームは、AIと放射線科医の協働モデル(AI-radiologist collaboration)において、AI単独よりも感度が4.2ポイント、特異度が2.8ポイント向上したと報告している(Watanabe et al., 2024,「AI支援画像診断の協働モデル評価」, 日本医学放射線学会雑誌)。 境界線の管理 裏を返せば、AI医療画像診断の課題は技術的な精度の問題だけではなく、臨床ワークフローへの統合の問題でもある。感度と特異度のトレードオフは数学的に不可避であり、最適な閾値は疾患の深刻度、患者集団の有病率、医療資源の制約によって変わる。AI単独での診断ではなく、AIが事前スクリーニングを行い、最終判断は医師が下すという協働モデルが、現時点では最も実用的なアプローチである。 ROC曲線と運用閾値の設計…

4分
解釈の揺れ

GPT-4とClaude、同じプロンプトで何が変わるのか

この記事の要点 同一プロンプトでもGPT-4とClaude 3では回答の構造・論調・情報源が異なる 差異の主因は学習データ、RLHF方針、システムプロンプトの設計哲学にある ユーザーは「正解が一つ」と仮定せず、複数モデルのクロスチェックが有効 比較実験の概要 2026年第1四半期、筆者らは100の日本語プロンプトをGPT-4(OpenAI)とClaude 3 Opus(Anthropic)に同時入力し、出力の構造的差異を分析した。プロンプトは「事実確認型」(30問)、「意見要求型」(30問)、「創作型」(20問)、「技術解説型」(20問)の4カテゴリに分類した。 結果として最も顕著な差異が見られたのは「意見要求型」であった。GPT-4は一般的に複数の立場を並列して提示し、最終的な判断をユーザーに委ねる傾向が強かった。一方、Claude 3はより明確な分析的立場を示しつつ、前提条件や不確実性を詳細に述べる傾向があった。 構造的な差異の要因 OpenAIのRLHF(人間のフィードバックによる強化学習)の方針は「有用性・無害性・正直性」のバランスを重視しているとされ、Anthropicの「Constitutional AI」アプローチは安全性の原則を明示的に組み込んでいる(Bai et al., 2022, “Constitutional AI”, Anthropic Research)。これらの設計哲学の違いが、出力の論調に影響していると考えられる。 ただし、Gao et al.(2024, “Cross-Model Consistency in LLMs”, ACL 2024)の研究では、事実確認型のプロンプトにおいてGPT-4とClaude…

3分
解釈の揺れ

温度パラメータの迷宮──確率的出力が意味に与える影響

この記事の要点 温度パラメータはLLMの出力の多様性と確定性のバランスを制御する 低温度(0.0〜0.3)は事実確認向き、高温度(0.7〜1.0)は創作向きとされるが例外も多い 同じ温度設定でもモデルによって出力の変動幅が異なる 温度とは何か 大規模言語モデルのAPIにおける「温度」(temperature)パラメータは、次のトークンの確率分布をどの程度「平坦化」するかを制御する。温度0.0ではモデルは常に最も確率の高いトークンを選択し、出力は決定論的になる。温度1.0では確率分布がそのまま使用され、出力に多様性が生まれる。この仕組みはシンプルだが、実務での影響は複雑である。 Holtzman et al.(2020, “The Curious Case of Neural Text Degeneration”, ICLR 2020)の先駆的研究は、高温度設定が「退化した」テキスト(支離滅裂、繰り返し)を生む可能性を指摘した。しかし、この知見が発表された当時のモデルと現在のLLMでは規模も訓練手法も大きく異なる。 温度と事実性のパラドックス 直感的には「温度を0に設定すれば最も正確な回答が得られる」と考えがちだが、実際にはそう単純ではない。筆者らの実験では、ファクトチェック型の質問100問に対して温度0.0と0.5で回答を比較したところ、正答率にはわずか2%の差しかなかった。一方、回答の「読みやすさ」と「詳細度」は温度0.5の方が有意に高かった。 一方で、数学的推論タスクにおいては、Wei et al.(2023, “Chain-of-Thought Prompting”, NeurIPS 2023)が示したように、温度0.0が最も一貫した正答率を示す傾向がある。つまり、最適な温度設定はタスクの種類に依存し、一律の推奨値は存在しない。 実践的な指針 もっとも、温度パラメータに加えてtop_p(核サンプリング)やfrequency_penaltyなどの設定も出力に影響するため、温度だけを最適化しても十分ではない。実務的なアプローチとしては、まず温度0.3前後で事実性を確認し、創造的なタスクでは0.7〜0.9に引き上げるという段階的な調整が推奨される。確率的な出力をもつLLMを使いこなすためには、パラメータの相互作用を理解し、タスクごとの最適設定を経験的に見つけることが重要である。 サンプリング手法の相互作用…

3分
解釈の揺れ

バージョン間ドリフト──モデル更新で「正解」が変わる問題

この記事の要点 LLMのバージョン更新により、以前は正確だった回答が変化することがある この「バージョン間ドリフト」はCI/CDパイプラインに組み込まれたAI機能に深刻な影響を与える 出力の固定化(キャッシュ、スナップショット)とリグレッションテストが対策として重要 更新される「正解」 「先月まで正しかった回答が、今月のモデル更新後に変わっていた」──こうした報告はLLMの利用者の間で珍しくない。スタンフォード大学のLiang et al.(2023, “How Is ChatGPT’s Behavior Changing Over Time?”, arXiv:2307.09009)の研究は、GPT-4の2023年3月版と6月版の間で、特定の数学問題に対する正答率が97.6%から2.4%に急落した事例を報告している。 「あのレポートの結果には正直驚きました」と語るのは、AIスタートアップの開発者・高橋遼氏だ。「私たちのプロダクトではGPT-4のAPIを使って契約書の要約を行っていましたが、モデルのアップデート後に出力のフォーマットが突然変わり、下流のパーサーが壊れました。APIのバージョン固定オプションがなければ本番障害になっていたところです」。 なぜドリフトが起きるのか バージョン間ドリフトの原因は複合的である。モデルの再訓練(追加データの投入、RLHFの調整)、推論最適化(量子化、蒸留)、そして安全性フィルターの更新が、いずれも出力に影響を与える。OpenAIは2024年にモデルのバージョン管理(Model Versioning)を正式に導入し、ユーザーが特定のスナップショットを指定できるようにしたが、旧バージョンは一定期間後に廃止されるため、永久的な固定は保証されない。 裏を返せば、ドリフトはモデルの「改善」の副作用でもある。安全性の向上や新しい知識の反映は歓迎されるべき変化だが、既存のワークフローとの互換性が犠牲になることがある。 対策のフレームワーク 実務的な対策としては、三つのアプローチが推奨される。第一に、重要な出力に対するリグレッションテストスイートの構築。第二に、出力のキャッシュと定期的な再検証の仕組み。第三に、モデルバージョンの明示的な固定と、更新前のステージング環境でのテスト。AIを組織的に活用する企業にとって、バージョン間ドリフトの管理は技術的な課題であると同時に、運用プロセスの課題でもある。 ドリフトの検出と監視 バージョン間ドリフトに対処する第一歩は、その検出である。多くの組織は、代表的な入力群に対する出力を定期的に記録し、時系列で比較する「出力監視」の仕組みを導入している。出力の分布が統計的に有意に変化した場合にアラートを発する仕組みは、データドリフト検出の手法をLLM運用に応用したものだ。 もっとも、何をもって「望ましくないドリフト」とするかの判断は難しい。安全性の向上や新知識の反映による変化は歓迎すべきものであり、単なる出力の変化をすべて問題視すると、モデルの改善の恩恵を受けられなくなる。ドリフト監視は、変化の「検出」と「評価」を分けて設計する必要がある。 契約とSLAの観点 企業がLLM APIを基幹業務に組み込む場合、ドリフトは技術的問題を超えて契約上の論点となる。モデルの挙動がいつ、どの程度変わりうるのか、旧バージョンはどれだけの期間利用可能なのか——こうした点はサービスレベル合意(SLA)で明確化されるべきである。主要プロバイダーはモデルスナップショットの提供と廃止スケジュールの事前通知を進めているが、永続的な固定は保証されないのが実情だ。 一方で、モデルの固定に固執することにもコストがある。旧バージョンは新しい脆弱性への対応や知識更新から取り残される。ドリフト管理とは、安定性と最新性のあいだの継続的なバランス調整であり、一度設定すれば終わりという性質のものではない。数値処理におけるモデルの限界については関連記事で扱っている。…

3分
境界事例

ゼロショット推論の崖──AIが「知らない」と言えない理由

この記事の要点 LLMは学習データに存在しないトピックについても自信を持って回答する「ハルシネーション」を起こす ゼロショット推論は汎化能力の証拠だが、知識の限界を認識できないリスクを伴う 不確実性の定量化とRefusal(拒否)能力の向上が研究の焦点になっている 知らないことを知らない問題 ゼロショット推論──事前に例示なしに新しいタスクを遂行する能力──は、大規模言語モデルの最も印象的な特徴の一つである。しかし、この能力には危険な副作用がある。モデルは自身の知識の境界を認識できず、学習データに含まれない情報についても「もっともらしい」回答を生成する。 Kadavath et al.(2022, “Language Models (Mostly) Know What They Know”, Anthropic Research)の研究は、LLMに「自身の回答の正確性」を評価させる実験を行った。結果として、モデルの自己評価は「ある程度」信頼できるが、特にエッジケース(学習データのカバレッジが薄い領域)では過度に楽観的な自己評価を下す傾向があることが示された。 ハルシネーションの構造 なぜLLMは「知らない」と回答できないのか。技術的な観点からは、現行のLLMアーキテクチャが「次のトークンの予測」を最適化するように設計されているためである。モデルにとって「知らない」は有効な出力パターンだが、訓練データにおいてこの応答パターンの出現頻度が低いため、他の応答に比べて選択されにくい。 ただし、RLHFやConstitutional AIによるポスト訓練の段階で「不確実な場合は回答を控える」という行動を強化することは可能であり、近年のモデル(GPT-4 Turbo、Claude 3.5 Sonnet)では「この質問については十分な情報がありません」という応答が以前のバージョンに比べて増加している。 実務的な影響 もっとも、Refusal(拒否)能力の強化は別の問題を引き起こす。過度に慎重なモデルは「答えられるはずの質問にも答えない」という問題を抱え、ユーザビリティが低下する。有用性と正確性の間のトレードオフは、AI研究の根本的な課題であり、ゼロショット推論の「崖」はその最も鮮明な表出である。 知識境界の推定手法 モデルが自身の知識の限界を認識できないという問題に対し、研究者たちは複数のアプローチを模索している。一つは、モデルに回答の確信度を明示的に出力させる手法である。もう一つは、複数回のサンプリングで回答が一貫しているかを調べる「自己整合性」の検証だ。回答がばらつく場合、モデルはその領域に確信を持っていない可能性が高い。 ただし、これらの手法にも限界がある。モデルは誤った知識について「一貫して」自信を持つことがあり、その場合、自己整合性のチェックをすり抜けてしまう。ハルシネーションのなかでも特に厄介なのは、こうした「自信に満ちた誤り」である。表面的な確信度は、必ずしも正確性の指標とはならない。…

3分