チャットボット開発の企画段階における監査に関する次の記述を読んで，設問1〜4に答えよ。
A社は，家庭用品を製造・販売している企業であり，顧客からの問合せに対応するためのコールセンタを自社で運用している。コールセンタでは，問合せ集中時の対応の遅れや品質のばらつきが課題となっている。他社のコールセンタで，チャットボットを導入して効果が出ている事例があることから，A社はコールセンタへのチャットボットの導入を検討している。
A社は，チャットボットの開発利用経験がないので，ITベンダの協力を得て開発する計画である。監査部は，コールセンタでのAIの利用は業務運営，顧客サービスなどに大きな影響を与える可能性があると考え，システム監査を実施することにした。しかし，チャットボット開発の監査経験がないので，社外のシステム監査人M氏に監査チームへ参画してもらい，助言を受けながら監査を実施することにした。
〔コールセンタの概要〕
コールセンタは，電話や電子メールを用いて，顧客からの問合せ対応やアフターフォローを行っている。コールセンタの運営は，着呼の自動振分け，顧客に関する情報照会，対応記録の一元管理，稼働状況に応じたオペレータへの着呼の割当て，通話録音などの機能をもつコールセンタシステムで支援されている。
〔チャットボット開発の概要〕
監査チームは，予備調査として，コールセンタとシステム部にヒアリングを行い，関係資料を閲覧した結果，次の情報を得た。
（1）チャットボットの機能
コールセンタとシステム部が協議して，オペレータを支援する機能の強化としてチャットボットを導入することとした。チャットボットは，AIを利用した音声認識と自然言語処理によって，対応中の顧客の発言の趣旨を解析し，オペレータに回答候補を提示する。
（2）構想立案と概念実証
コールセンタとシステム部が協議した内容を構想立案書としてまとめ，次に，概念実証（以下，PoCという）の実施に当たりPoC計画書を作成した。
コールセンタは，コールセンタへ問合せのあった顧客の音声（以下，学習データという）とオペレータの回答音声（以下，教師データという）の1か月分を準備した。システム部は，学習データと教師データの全件をAIに学習させ，PoCの実施結果をPoC評価書としてまとめた。
（3）要件定義以降の開発計画
システム部は，PoC評価書を踏まえてひとまず開発概要書を作成し，要件定義に向けた準備を進めている。一方，PoCの実施結果に一部想定外の状況が発生しているので，PoCを継続して実施する予定である。チャットボット開発の流れは図1のとおりであり，現在はPoC工程の途中の段階である。
図1 チャットボット開発の流れ
なお，開発概要書には，次のとおり記述されている。
①システム部が開発し，コールセンタはテスト工程で操作性などを確かめる。
②テスト工程では，学習データと教師データを3か月分に増やして学習させ，結果を評価し，想定した結果が得られた場合には本番移行が承認される。
③本番移行工程では時間が限られ，直前のテスト工程では結果が評価されることから，学習データと教師データの量を6か月分に増やして学習だけを行い，本番運用を開始する。
（4）オペレータ教育
開発概要書には，オペレータ教育について“現行のマニュアルの中で操作方法が変更になる箇所だけを更新し，業務の繁閑を考慮しながらオペレータを教育する”と記述されている。
〔監査チームが想定したリスク〕
監査チームは，チャットボット開発のリスクを次のとおりまとめた。
（1）構想立案工程のリスク
AIの利用は経営や業務へのリスクがある。導入目的や利用範囲について経営会議などの審議を経て経営層が承認するプロセスが必要である。
（2）PoC工程のリスク
PoCの計画策定時に評価基準が不明確な場合には，実施結果の良否判断ができず，PoCの終了を判断できないリスクがある。また，評価結果が不明確な場合には開発計画が不確実になり，期待どおりのチャットボットを開発することができないリスクがある。そのため，PoCの計画策定では，実施の目的，結果の評価基準及び終了基準を定める必要がある。PoC工程実施後は，計画で定めた評価基準及び終了基準を満たしているかを明確に評価する必要がある。
（3）学習と評価のリスク
チャットボットの学習では要求される品質を満たす学習データと教師データを選定，準備し，必要な各工程で学習させないと，チャットボットが適切でない回答をするリスクがある。学習後は，結果が正しいかどうかを評価する必要がある。
（4）オペレータ教育のリスク
オペレータ教育が不十分な場合にはAIが示した誤った結果をそのまま顧客に回答するリスクがある。AIが示す結果は常に正しいとは限らないので，結果の利用可否を人が判断する必要がある。チャットボットについても同様で，操作方法の変更だけでなく，結果の正しさや利用可否をオペレータ本人が判断すべきであることを教育する必要がある。その際，オペレータ教育の内容や実施計画の妥当性を事前に考慮することが重要である。
〔M氏の助言〕
監査チームは，想定したリスクを踏まえて作成した監査手続書について，M氏に助言を求めた。M氏の助言は次のとおりである。
（1）監査手続としてAIに関する開発原則を確かめるだけでは不十分であり，追加の手続が必要である。
（2）開発概要書を作成しており，PoCを継続実施する計画になっている。今後のPoCの評価が不明確な場合は開発が遅延するリスクがある。PoCの計画と実施についての監査手続が必要である。
（3）開発概要書を見る限り，本番移行工程には問題がある。本番運用において期待効果が得られない可能性があるので，詳しく調査する必要がある。
（4）オペレータ教育について，教育内容や実施計画が不十分なので，詳しく調査する必要がある。
〔修正した監査手続書〕
監査チームはM氏の助言を踏まえて，表1のとおり監査手続書を修正した。
| 項番 | 監查要点 | 監査手続 |
| （1） | AIに関する開発原則は明確か。 | 各種規定などを閲覧して，AIに関する開発原則を確かめる。 |
| AIの導入目的や利用範囲について，経営層が判断，承認しているか。 | ア | |
| 適用範囲の決定過程や利用部門の参画は適切か。 | 構想立案書を閲覧して，該当の記述や利用部門の開発への参画状況を確かめる。 | |
| （2） | PoCの計画と実施は適切に行われているか。 | 計画について イ 実施について ウ |
| （3） | 要求品質を満たした学習データと教師データを準備しているか。 | 構想立案書，PoC計画書，開発概要書を閲覧して，学習データと教師データの適切性の評価プロセスを確かめる。 |
| テスト，本番移行及び本番運用の各工程で学習と評価を考慮しているか。 | 構想立案書，開発概要書を閲覧して，テスト，本番移行及び本番運用の各工程でのデータの準備・学習・評価の計画を確かめる。 | |
| （4） | AIの特性を踏まえたオペレータ教育の内容を検討した上で，実施計画の妥当性を考慮しているか。 | 構想立案書，開発概要書を閲覧して，オペレータへの教育内容や実施計画の妥当性を確かめる。 |
設問1 〔M氏の助言〕（1）を踏まえて，表中の ア に入れる監査手続を50字以内で述べよ。
解答・解説
解答例
経営会議などの議事録を閲覧し，経営層によって十分に審議され，承認されているかを確かめる。
解説
ー
設問2 〔M氏の助言〕（2）を踏まえて，表中の イ ， ウ に入れる監査手続をそれぞれ45字以内で述べよ。
解答・解説
解答例
イ：PoC 計画書を閲覧し，目的，結果の評価基準，終了基準の記述があることを確かめる。
ウ：PoC 評価書を閲覧し，結果の評価や終了の判断についての記述を確かめる。
解説
ー
設問3 〔M氏の助言〕（3）について，M氏が指摘した問題を30字以内で述べよ。
解答・解説
解答例
学習後に結果を評価しないで本番移行してしまうという問題
解説
ー
設問4 〔M氏の助言〕（4）について，M氏が，オペレータ教育の内容が不十分と考えた理由を40字以内で述べよ。
解答・解説
解答例
AI の特性の教育や，結果の正しさや利用可否を判断する教育の予定がないから
解説
ー
IPA公開情報
出題趣旨
AI に関する技術開発が急速に進む中，企業は AI の利活用による便益を増進させるとともに，AI の利活用か ら生じるリスクを抑制する必要がある。また，AI を導入するに当たって，導入目的や効果の検討，学習と評 価，テスト，リスク，コントロールなどを留意する必要がある。 本問では，チャットボット開発の企画段階の監査を題材として，AI のもつ特性，AI を利用したシステムの 開発段階におけるリスク及びコントロールを理解し，コントロールの適切性を確認するための監査手続を選択 して監査を実施する能力を問う。
採点講評
問 1 では，チャットボット開発の企画段階の監査を題材に，AI を利用したシステムの開発におけるリスク及 びコントロールを理解し，コントロールの適切性を確認するための監査手続について出題した。全体として正 答率は平均的であった。 設問 3 は，正答率が平均的であった。学習データ，教師データの評価と，学習結果の評価を取り違えたと思 われる解答が散見された。AI の学習と結果評価のプロセスでは，データを増やして学習させ，結果を評価し， 想定した結果が得られた場合に本番移行するということに気付いてほしい。 設問 4 は，正答率がやや低かった。AI の特性を記述した解答は少なかった。AI が示す結果が常に正しいとは 限らず，その結果の正しさや利用可否を人間が判断すべきであることを理解するために，AI の特性を踏まえた 教育が必要であることに気付いてほしい。
