生成AIをアプリに組み込むとき、「どのモデルが高性能か」だけでは選びきれません。回答の正確さ、処理時間、利用料金に加え、間違えた場合にどのように対応するかも考える必要があります。

例えば、文章の分類と、社内規程に基づく問い合わせ対応では、求められる品質が異なります。この記事では、AIモデルの比較方法から、API料金の見積もり、外部データとの連携、導入効果の測り方までを整理します。

目次

1.モデルを選ぶ前に、処理の目的を決める

最初に決めたいのは、AIに任せる作業と、合格とする条件です。「高性能なAIを使う」という方針だけでは、導入後にうまく動いているかを判断できません。

問い合わせを分類するなら分類の正確さ、文章から項目を取り出すなら抽出漏れや取り違えを確認します。回答文を作る場合は、事実の正確さに加えて、質問への答えになっているかも評価しましょう。

処理の例主に確認すること
問い合わせの分類分類の正確さ、誤分類した場合の影響
書類からの項目抽出抽出漏れ、値の取り違え、出力形式
文章の要約重要事項の抜け、原文にない内容の追加
コード生成動作、仕様との一致、修正のしやすさ
資料に基づく回答根拠との一致、情報の新しさ、回答できない場合の対応

比較には、自分のアプリで実際に扱うデータに近い例を使います。簡単な例だけでなく、情報が不足する例や、条件が複雑な例も含めると、モデルの使いどころを判断しやすくなります。

2.API料金は、モデル名と利用条件をそろえて比較する

API料金を見るときは、モデルの正式な識別子、提供元、確認日、課金単位を記録します。同じシリーズ名でも、モデルの世代や提供サービスが異なれば、料金や利用条件が変わる場合があります。

特に、入力と出力の料金は分けて確認してください。入力が安くても、長い回答を大量に生成する使い方では、出力側の費用が大きくなることがあります。

確認項目比較するときのポイント
入力・出力単価それぞれ何トークン当たりの料金か
キャッシュ読み取り、書き込み、保存に料金がかかるか
バッチ処理対象モデル、割引率、完了までの時間
長文入力入力量によって単価が変わるか
推論用トークン課金対象に含まれるか
追加機能検索、画像・音声、ツール実行などの費用
提供条件無料枠、有料枠、地域、契約プランの違い

例えば、Googleの料金表にはキャッシュの保存料金や検索機能の料金があり、Anthropicの料金表ではキャッシュの書き込みと読み取りを区別しています。入力・出力単価だけでは、総額を見積もれないことがあります。

キャッシュやバッチ処理の割引も、アプリ全体の費用が同じ割合で下がることを意味しません。対象になる処理の割合や、保存費用などを含めて計算しましょう。

3.料金は、1回分から月間利用量へ積み上げる

ここでは計算方法を説明するため、架空の料金を使います。実在するモデルの料金や、実際の導入実績を示したものではありません。

入力が100万トークン当たり1ドル、出力が100万トークン当たり4ドルと仮定します。1回の処理で入力2,000トークン、出力500トークンを使う場合、計算は次のようになります。

項目計算費用
入力2,000÷1,000,000×1ドル0.002ドル
出力500÷1,000,000×4ドル0.002ドル
1回分の合計入力+出力0.004ドル
月1万回の場合0.004ドル×10,000回40ドル

この40ドルには、サーバー代、検索機能、データ保存、再試行、人による確認作業などを含めていません。また、日本語の文字数をそのままトークン数として計算することもできません。

試作段階では、APIが返す利用量などを記録し、実際の入力・出力の長さを確かめましょう。平均的な処理に加えて、長文や再試行が多い場合も見積もると、予算のずれを把握しやすくなります。

単価だけでなく、合格した処理にかかった費用を見る

安いモデルでも、修正や再実行が多ければ、全体の費用が増える場合があります。API料金と合わせて、合格率、人による確認時間、やり直しの回数を記録してください。

比較指標の一例は、「評価期間中の総処理費用÷合格基準を満たした処理件数」です。失敗した処理にかかった費用も分子に含め、同じ合格基準で比較します。

複数モデルの使い分けも選択肢ですが、振り分け処理自体に費用や保守の手間がかかります。まず一つの構成で基準を作り、品質や費用に課題がある処理から変更すると、効果を確かめやすくなります。

4.RAGを使っても、回答の確認は必要

RAGは、質問に関連する資料を検索し、その内容をモデルへ渡して回答を生成する仕組みです。社内マニュアルや製品情報など、参照してほしい資料がある場合に利用できます。

ただし、検索した資料が古い、必要な箇所を取得できない、資料の条件を読み違えるといった問題は残ります。検索結果と最終回答を分けて確認することが大切です。

例えば、資料への忠実さを評価するGroundednessと、回答に必要な情報がそろっているかを評価する完全性は、異なる観点です。Microsoftの評価資料でも、これらは別の指標として整理されています。

そのため、一つの評価スコアが高いだけで、誤情報がなくなったとは判断できません。評価方法、対象件数、採点基準を示したうえで、実際に起きた誤りも確認しましょう。

回答に参照元を付ける場合も、リンクがあることだけで合格にしないでください。引用先が回答を裏づけているか、利用者が確認できる資料かまで確かめる必要があります。

5.APIキーと操作権限を適切に管理する

AI APIを使うアプリでは、APIキーをブラウザへ配信するコードや公開リポジトリに埋め込まないようにします。通常の秘密のAPIキーはサーバー側で管理し、不要になったキーや漏えいしたキーは無効化します。

また、外部のWebページやファイルには、AIの動作を変えようとする指示が含まれる場合があります。これは間接的なプロンプトインジェクションの問題で、RAGを使うだけでは防げません。

モデルへの注意書きに加え、アプリ側で利用者の権限や実行可能な操作を制限します。削除や外部への送信など、影響の大きい操作には、内容を確認する工程を設けましょう。

AIの出力をJSONなどの決まった形式にすることも役立ちますが、形式が正しいことと、内容が正しいことは別です。金額や宛先、操作対象が適切かどうかは、アプリ側のルールでも検証してください。

6.MCPや開発支援ツールは、必要な範囲から使う

MCPは、AIアプリケーションと外部のデータやツールを接続するための共通の仕組みです。ホスト、クライアント、サーバーという構成を取り、データや機能をやり取りします。

接続方法が共通化されても、誰に何を許可するかという設計は必要です。接続先ごとに、読み取りだけでよいのか、書き込みも必要なのかを整理しましょう。

同様に、AIによるコード生成やアプリ作成支援を利用する場合も、完成条件を具体化します。画面が表示されることに加え、ログイン、権限、保存、エラー時の挙動などを確認してください。

複数のAIエージェントを組み合わせる構成も、常に必要とは限りません。工程が増えれば、呼び出し回数や待ち時間、失敗箇所を調べる手間も増えるため、単純な構成で目的を満たせるかを先に確かめましょう。

7.導入効果は、時間・品質・費用を分けて測る

AI導入後に回答が速くなっても、誤回答や再問い合わせが増えれば、業務全体の改善につながるとは限りません。最初の回答までの時間と、問題が解決するまでの時間を分けて記録します。

時間短縮率は、「導入前の時間から導入後の時間を引き、導入前の時間で割る」ことで求められます。次は計算方法を示すための仮定例であり、実在企業の成果ではありません。

導入前導入後時間短縮率
6時間(360分)12分約96.7%
6時間(360分)1時間40分(100分)約72.2%

比較するときは、同じ種類の業務について、平均値同士、中央値同士など条件をそろえます。自動回答した案件と、人へ引き継いだ案件の結果を混ぜる場合は、それぞれの件数や集計方法も示してください。

また、問い合わせ件数が減った割合を、そのまま人の作業時間の削減率とみなすことはできません。難しい案件だけが残れば、1件当たりの対応時間が長くなる可能性があるためです。

評価する観点記録する例
速さ一次応答時間、解決までの時間
品質誤回答、情報の不足、再問い合わせ
人の負担確認・修正・引き継ぎに使った時間
費用API、インフラ、開発・保守、確認作業の費用
利用者の反応満足度、離脱、有人対応の希望

削減できた時間を金額に換算する場合も、実際に支出が減った金額とは区別しましょう。空いた時間を別の業務に使える価値と、現金支出の削減を分けて示すと、導入効果を説明しやすくなります。

8.小さく試し、記録を残して改善する

最初の対象には、回答の下書きや文章の分類など、結果を確認しやすい作業を選びます。合格条件と比較用のデータを決め、品質、処理時間、費用を記録してください。

モデルを変更するときは、モデル名だけでなく、指示文、参照資料、設定も残しておきましょう。複数の条件を同時に変えると、何が改善につながったのか分かりにくくなります。

AIモデルの選定は、一度決めて終わりではありません。実際の利用で起きた失敗を評価用データに加え、自分のアプリで必要な品質を満たせるかを継続して確認していきましょう。

Learning Tools

記事を検索したい方はここから!

辞書から探す

本文中で気になった概念やキーワードを、辞書ページで一覧から確認できます。

辞書を見る