「説明可能なAIとは？」「説明可能なAIを学ぶのにおすすめの書籍は？」このように思われている方向けに、本記事では説明可能なAIの概要と学習におすすめの書籍を紹介します。
目次
説明可能なAIの概要
説明可能なAIとは
説明可能なAI（XAI）とは、AIが生み出す結果とアウトプットを人間が理解し、信頼できるようにするための一連のプロセスと手法です。
AIモデルの精度、公平性、透明性、結果を特徴づけるのに説明可能なAIは役立ちます。組織がAIモデルを本番稼働させる際に信用と信頼性を築く上で非常に重要と言えるでしょう。
説明可能なAIが注目されている背景
従来のAIでは予測や認識の性能が高くとも、誤った判断をしてしまった場合、判断根拠の説明が困難であり、それがAIに対する不信感を生み導入への阻害要因となっていました。
特に、深層学習モデルはモデルが非常に複雑であるため、基本的に出力結果の判断根拠が解釈しにくいことが問題視されています。このような背景から機械学習モデルをホワイトボックス化する社会的なニーズが高まってきており、説明可能なAIが注目されているのです。
説明可能なAIの利点
説明可能なAIの課題
説明可能なAIの主な手法
| 大域的な説明 | 複雑なモデルを決定木や戦型モデルといった解釈性の高いモデルで近似し、モデルの予測過程を提示する手法。 |
|---|---|
| 局所的な説明 | ある一つのデータに着目しデータの予測結果に寄与する特徴量や予測結果に関連が深い学習データなどを提示する手法。 |
【2023年版】説明可能なAIのおすすめ本
前章で説明可能なAIの概要についてはご理解いただけたかと思うので、本章では説明可能なAIについて深い知識を得る上で役立つおすすめ本をご紹介していきたいと思います。
おすすめ本①実践XAI[説明可能なAI]機械学習の予測を説明するためのPythonコーディング
1冊目のおすすめ本は『実践XAI[説明可能なAI] 機械学習の予測を説明するためのPythonコーディング』となります。
XAI Pythonライブラリで予測結果を説明。ブラックボックスからグラスボックスへ。ビジネス上の意思決定につながる機械学習の予測には、解釈・説明が求められます。そこで、そうした解釈・説明を行うための手法を紹介していきます。出典：Amazon
当書では、モデルの説明可能性と解釈可能性の全体像から、倫理的に考慮すべき点、生成された予測のバイアス、そしてPythonライブラリを使ってモデルがなぜそのように予測するのかについて解説されております。
予測モデルとして、線形・非線形モデルのほか、アンサンブルモデル、時系列モデル、自然言語処理、ディープラーニング、コンピュータービジョンが取り上げられております。
説明可能なAIについて網羅的かつ実践的な解説がなされているので、機械学習を現場で活用する人全般におすすめできる一冊です。
おすすめ本②XAI(説明可能なAI)–そのとき人工知能はどう考えたのか？
2冊目のおすすめ本は『XAI(説明可能なAI)–そのとき人工知能はどう考えたのか？』です。
AIが出した答について「なぜ?」「どうして、そうなるの?」と問われた開発者は、絶句するほかありません。そこを機械に任せるための機械学習なのですから、「黙って信じてください」と頼みますか? 出典：Amazon
当書では、モデルの説明可能性と解釈可能性の概要から代表的なXAI技術の概要が紹介されております。PythonのXAIライブラリについても解説がなされているので、現場ですぐに使える実践的な内容と言えるでしょう。
説明可能なAIとは？おすすめ本もご紹介｜まとめ
本記事では説明可能なAIの概要とおすすめ本を紹介してきました。説明可能なAIに興味を持たれた方は今回紹介した書籍を手に取り学習を始めてみることをおすすめいたします。
本記事が説明可能なAIの概要と良書を知る上であなたのお役に立てたのなら幸いです。当ブログでは他にも技術ネタやエンジニアのキャリアに関する記事を公開しているので気になる記事がないか併せてチェックしてみてください。
