ナウキャスト、個人情報・機密データを外部送信せずにAI処理する「ローカルLLMテキスト処理基盤」の商用化を検討開始

よくある質問

Q: ナウキャストが開発した「ローカルLLMテキスト処理基盤」とは何ですか？

A: 企業の自社環境（オンプレミスや閉域クラウド）で大規模言語モデル（LLM）を稼働させ、個人情報や機密データなどの外部送信が許されないテキストデータを安全にAI処理（分類、名寄せ、情報抽出など）するための技術基盤です。

Q: この技術は金融業界のどのような課題を解決しますか？

A: 金融業界では、プライバシーやセキュリティの観点から顧客データなどを外部のクラウドLLM APIに送信できず、AI活用が進まないという課題がありました。このローカル処理基盤は、データを外部に一切送らないため、この問題を根本的に解決します。また、高額なクラウドAPI利用料も大幅に削減します。

Q: プロトタイプで行われた実証実験の結果はどうでしたか？

A: クレジットカード加盟店名のマッピング業務を対象とした実証実験では、1秒あたり15.1件の処理能力を達成し、確信度90以上のケースで正解率は95%を超えました。これにより人手による確認作業が約98%削減され、処理コストはOpenAIのAPIと比較して95.7%も削減できることが確認されました。

Q: 「ローカルLLMテキスト処理基盤」の主な特長は何ですか？

A: 主な特長は5つあります。1) 完全ローカル処理による高いデータ保護、2) OpenAI API比95.7%減という圧倒的な低コスト、3) 確信度スコアで人手確認を最小化する設計、4) 特定モデルに依存しない柔軟なアーキテクチャ、5) 業務別テンプレートで横展開が容易な点です。

Q: この技術はどのような業務に応用できますか？

A: クレジットカードの加盟店名マッピングの他、住所正規化、法人名名寄せ、取引摘要の分類、不正検知テキスト分析、書類OCR後のデータ構造化など、外部に送信できないテキストデータを扱う金融機関の幅広い業務に適用が可能です。