AIシステムとは？できること・導入事例・開発の流れ・費用の考え方
AI新規事業
AI新規事業のPoC・立ち上げ、何から始めるべきかご相談ください
要件定義からリリースまで、Mojiがワンチームで伴走します。
Riki Kamano CEO
大阪出身、東京都在住。LLMエンジニア、趣味は45キロの大型犬を飼っていて登山やゲームも好きです。慶應義塾在学中に起業した会社にて1500万ユーザーの日本一の車メディア事業を売却。その後サイバーエージェント、GREEなどを経てデザインエンジニアとしてスタートアップの支援を行い累計調達額100億を達成する。その経験を経てMojiを創業。
AIシステムとは、データや入力情報をもとに、予測・推薦・判定・生成などの出力を返し、業務やサービスにおける判断・作業を支援するシステムです。AIモデルだけを指す言葉ではなく、入力画面、データ連携、検索対象の文書、権限管理、人による確認、ログ・監視まで含めて設計することが実務上は重要です。
NISTはAIシステムを、目的に応じて予測・推薦・意思決定などの出力を生成し、現実または仮想環境へ影響を及ぼす、工学的または機械ベースのシステムとして整理しています。AIの自律性は一律ではなく、用途ごとに人の確認や停止条件を設計する必要があります。NIST AI RMF 1.0
この記事では、AIシステムを検討する企業が「何を作るか」「AIをどこまで任せるか」「費用をどう比較するか」を判断できるように、再利用可能な基準とテンプレートを示します。本文中の手順・判定表・テンプレートは、特記がない限りMojiによる実務上の提案です。
AIシステムでできること：4つの型で整理する
「AIを導入する」と言っても、目的によって必要なデータ、連携先、評価方法、リスク対策は変わります。まずは次の4型に分けると、必要なシステム像を絞り込みやすくなります。
型 | 主な出力 | 向く業務の例 | 特に確認したい点 |
|---|---|---|---|
生成AI活用 | 文章、要約、回答、画像、コード | 文書作成支援、社内問い合わせ、提案書の下書き | 根拠表示、誤回答時の確認者、入力禁止情報 |
予測・判定AI | 需要予測、スコア、分類、異常検知 | 在庫計画、離反兆候の把握、審査支援 | 正解データ、許容誤差、偏り、再学習条件 |
画像・音声認識 | 文字抽出、物体検出、音声文字起こし | 帳票処理、検品支援、通話記録の要約 | 入力品質、撮影・録音条件、人による訂正導線 |
業務自動化 | 検索、転記、通知、システム操作 | 申請処理、問い合わせ振り分け、定型登録 | 操作権限、承認地点、例外処理、停止条件 |
この分類はMojiによる設計上の整理です。実際には、たとえば「社内規程を検索して回答し、申請システムへ下書きを登録する」ように、生成AI・検索・業務自動化を組み合わせるケースもあります。社内文書を根拠に回答する設計は、RAG（検索拡張生成）の解説も参考にしてください。
AIシステムと、通常のシステム・RPA・チャットボットの違い
仕組み | 得意なこと | 向きにくいこと |
|---|---|---|
通常のシステム | ルールが明確な計算、登録、ワークフロー | 曖昧な文章の解釈や非定型の判断 |
RPA・固定ワークフロー | 手順が固定された反復操作 | 例外が多く、都度の調査・判断が必要な作業 |
AIチャットボット | 質問応答、案内、文章作成の補助 | 根拠や権限を設計せずに重要な意思決定を任せること |
AIエージェント | 目的に応じた検索、ツール利用、複数手順の実行支援 | 取消不能な外部操作を無承認で実行すること |
手順と正解が固定される業務は、必ずしもAI化する必要はありません。まず通常のシステムや固定ワークフローで安定化できるかを検討し、文章の解釈、例外対応、情報探索といった不確実性が残る部分にAIを使うと、構成を必要以上に複雑にしにくくなります。AIエージェントの適用条件は、AIエージェントとは？導入判断・実践手順で詳しく解説しています。
導入前に確認する：AIシステムが向く業務の判断基準
次の5項目に「はい」が多い業務は、限定的なPoC（概念実証）の候補になります。
- 対象業務が具体的か：例として「問い合わせ対応全般」ではなく、「返品条件に関する一次回答の下書き」のように工程を切れているか。
- 現状の基準値を取れるか：処理時間、差し戻し率、回答の確認時間、見逃し件数など、導入前後で比較する指標があるか。
- 入力と正解を確認できるか：過去の文書・問い合わせ・画像などがあり、正解例またはレビュー担当者を用意できるか。
- 失敗時に止められるか：誤出力が外部送信・決済・契約確定へ直結せず、確認・差し戻しができるか。
- 業務の責任者がいるか：仕様変更、データ更新、例外ルールを決められる担当者がいるか。
特に初回のPoCでは、外部への確定操作よりも、検索、要約、下書き、分類などの可逆的な作業から始めるのが実務上の選択肢です。AIに任せる範囲と人の承認地点は、AIエージェントの委任範囲・承認・停止条件の考え方も使えます。
AIシステムの活用例
以下は構成を理解するための架空の例です。効果は業務量、データ品質、評価指標、許容できる誤りによって変わるため、導入前の検証なしに一律には判断できません。
目的 | 架空の例 | 必要になりやすい要素 | 評価例 |
|---|---|---|---|
社内問い合わせ対応 | 規程PDFを検索し、根拠リンク付きで回答案を作る | 文書抽出、検索、権限、引用表示、回答不能時の案内 | 根拠正答率、回答不能時の抑制率、確認時間 |
受注・需要の予測 | 過去の受注履歴と季節要因から発注量の候補を出す | 時系列データ、欠損処理、予測モデル、承認画面 | 予測誤差、欠品率、過剰在庫率 |
帳票処理 | 請求書の画像から項目を抽出し、会計システム登録前に確認する | OCR/VLM、項目検証、マスタ照合、修正画面 | 項目別抽出精度、修正率、処理時間 |
営業支援 | 商談メモから次回アクションとメール下書きを作成する | 文字起こし、要約、CRM連携、送信前承認 | 下書き採用率、修正時間、記録漏れ率 |
開発の流れ：PoCから本番導入まで
AIシステムでは、モデル選定だけでなく、利用目的、データ、利用者、運用ルールを一緒に決める必要があります。NIST AI RMFは、AIリスク管理をGOVERN、MAP、MEASURE、MANAGEの4機能で整理し、ガバナンスを横断的に組み込む考え方を示しています。NIST AI RMF 1.0
- 業務を分解し、成功条件を決める
対象者、開始・終了条件、例外、現状工数、失敗時の影響を整理します。「AIを入れる」ではなく「誰の、どの工程を、どの品質まで支援するか」を要件にします。 - データと連携先を棚卸しする
入力データの所在、更新頻度、権限、欠損、個人情報の有無を確認します。社内文書を使う場合は、原本・抽出テキスト・検索結果を比較できる状態にします。 - PoCの合否基準を先に決める
代表ケースと失敗しやすいケースを評価セットにし、精度だけでなく、確認時間、処理時間、1件あたりの費用、危険な誤りの件数を測ります。 - 最小構成を実装する
最初から全システム連携や自動実行を目指さず、画面、データ接続、AI処理、根拠表示、ログ、手動確認を最小範囲でつなぎます。 - 業務テストと安全性テストを行う
通常入力だけでなく、曖昧な依頼、古い文書、権限外情報、悪意ある入力、連携障害を試験します。生成AIには設計・開発・運用・廃止の各段階でリスクがあり得るため、公開前だけでなく運用後も確認を続けます。NIST AI 600-1 - 段階的に本番へ広げる
対象部署、利用可能なデータ、実行権限を限定して開始し、問い合わせ先、修正責任者、更新頻度、停止判断を明文化します。
PoCをデモで終わらせず、本番化・限定継続・中止を判断する進め方は、AI PoCを本番化する進め方を参照してください。
評価指標の選び方：精度だけで決めない
比較結果は、モデル、入力品質、評価データ、業務上の許容誤差で変わります。以下は一般的な設計上の目安であり、用途に応じて重み付けを変えてください。
対象 | 品質指標 | 業務指標 | 安全・運用指標 |
|---|---|---|---|
生成AI・RAG | 根拠の正しさ、回答の網羅性、回答不能時の抑制 | 確認時間、下書き採用率、自己解決率 | 権限外情報の出力、根拠なし回答、障害時の挙動 |
予測・判定AI | 誤差、適合率、再現率、対象群ごとの差 | 損失削減額、見逃し件数、処理件数 | データ変化後の性能、説明可能性、再学習履歴 |
画像・音声認識 | 項目別精度、誤認識率、未認識率 | 訂正時間、処理件数、差し戻し率 | 低品質入力時の挙動、保存範囲、アクセスログ |
評価用データは、成功例だけでなく、例外、曖昧な表現、古い情報、入力不備を含めることが重要です。評価設計の詳しい手順は、AIの評価とは？評価指標・評価方法、RAG向けの評価セットはRAG評価データセットの作り方で解説しています。
費用の考え方：金額ではなく、見積もりの前提を比較する
AIシステムの費用は、画面数やモデル名だけでは比較できません。データ整備、既存システム連携、評価、セキュリティ、運用体制の範囲で大きく変わるためです。見積もりでは初期費用と運用費用を分け、次の項目を同じ条件で比較してください。
費用区分 | 主な内訳 | 変動しやすい条件 |
|---|---|---|
企画・要件定義 | 業務分析、要件、リスク整理、KPI・評価設計 | 関係部署数、例外の多さ、合意形成の難しさ |
データ整備 | 収集、抽出、クレンジング、ラベル付け、権限整理 | PDF・画像の品質、データ量、更新頻度 |
開発・連携 | UI、API、検索基盤、認証、既存システム連携 | 連携先数、認可方式、リアルタイム性 |
評価・安全対策 | テストデータ、レビュー、ログ、監視、脆弱性対策 | 扱う情報の重要度、許容できない失敗 |
運用 | モデル/API利用料、クラウド、監視、改善、問い合わせ対応 | 処理件数、入力・出力量、SLA、変更頻度 |
Mojiによる見積もりテンプレート：見積依頼時は、少なくとも「対象業務」「月間件数」「入力形式と平均量」「連携先」「利用者数と権限」「人の承認地点」「評価基準」「運用担当者」「障害時の停止方法」を同じ粒度で提示します。これがないまま金額だけを比較すると、後からデータ整備・連携・運用要件が追加され、比較が成立しにくくなります。
生成AI APIを組み込む場合の料金構造、モデル選定、開発手順は、生成AI APIとは？種類・選び方・料金の見方もあわせて確認してください。
セキュリティ・個人情報のチェックリスト
生成AIを含むAIシステムでは、入力情報、モデル出力、外部連携のそれぞれで確認が必要です。個人情報保護委員会は、生成AIサービスへ入力する情報が提供者の学習データとして利用される場合の留意点を示しており、個人情報を扱う際には利用条件と入力範囲の確認が必要です。個人情報保護委員会：生成AIサービスの利用に関する注意喚起
- 入力してよい情報・禁止する情報を、利用者が判断できる文言で定義したか。
- 個人情報、機密情報、取引先情報を扱う目的・範囲・保存先を確認したか。
- 利用者・管理者・開発者ごとに、閲覧・検索・実行できる権限を分けたか。
- 外部送信、データ更新、発注・返金など不可逆な操作の前に承認を置いたか。
- 入力、参照文書、出力、操作、承認のログを必要な範囲で追跡できるか。
- 誤回答、情報漏えいの疑い、連携障害が起きた際の停止・連絡・復旧手順を決めたか。
- モデル、プロンプト、検索対象文書、連携APIを変更した際に再評価するか。
政府の生成AI調達・利活用ガイドラインでも、役割ごとのルール、調達・契約時の確認、運用開始後の定期的な安全性・品質検証が整理されています。民間企業でも、責任者、利用ルール、報告経路、定期レビューを事前に決める際の参考になります。デジタル庁：政府AI調達・利活用ガイドラインの概要
AI固有のリスクをシステム全体で整理したい場合は、AIのリスク管理・マネジメント、LLMアプリケーションのセキュリティはAIのセキュリティ対策を参照してください。
導入判断に使える1ページ要件テンプレート
以下を埋めてからPoCや開発相談を始めると、対象範囲と比較基準を合わせやすくなります。
【AIシステム導入メモ】
・対象業務：
・利用者／利用場面：
・現在の手順と所要時間：
・AIに任せる工程／人が確定する工程：
・入力データと保存場所：
・連携が必要なシステム：
・成功指標（品質・時間・コスト）：
・許容できない失敗：
・評価に使う代表ケース／例外ケース：
・本番化の合否基準：
・運用責任者／更新担当者／停止判断者：まとめ：AIシステムは「モデル選び」ではなく「業務と運用の設計」で決まる
AIシステムは、生成AI、予測、認識、自動化という目的から選びます。そのうえで、対象業務を小さく定め、データと権限を確認し、品質・工数・安全性を同時に評価して、段階的に本番へ進めることが重要です。
特に、回答や予測の精度だけで導入可否を決めず、根拠、確認者、例外処理、停止条件、運用コストまで含めて設計してください。AI導入前の業務整理から進めたい場合は、生成AI導入前の業務棚卸しと現場定着の進め方も参考にできます。