株式会社Ｃｉｔａｄｅｌ　ＡＩの情報

あらゆるAIの課題を一言で可視化、Eval Insightがさらに進化
生成AI時代の経営を支援、AIガバナンス体制を強化
株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、AIシステムの課題や改善すべきポイントを、一言で簡潔に提示する自動診断サービス「Eval Insight（イーバル・インサイト）」の機能を大幅に拡充します。
これまで生成AI向けに提供していた本機能を、与信審査や画像分析など、業務で幅広く活用されている予測型AIにも展開することで、社内に点在する多様なAIシステムの全体像を、短時間で一元的に把握することが可能となります。
生成AI時代の経営を支援し、AIガバナンスを強化する画期的なサービスです。




求められる国内外の法規制や業法対応
生成AIや予測型AIなど、AIの導入は今や経営企画・研究開発・製造・営業・コンタクトセンターといった、企業のあらゆる部門に広がりつつあります。
AIを積極的に活用すると同時に、そのセキュリティリスクやレピュテーションリスクから、いかに会社を守るかという「攻めと守り」のバランスが非常に重要です。AIガバナンス体制の構築に向けた検討が、大手企業を中心に急速に進んでいます。
EU AI法や、日本のAI事業者ガイドラインなど、AIシステムの品質やセキュリティに対する横断的な国内外の法規制への対応が求められます。
また、AIを与信審査や診断支援、運転制御などに組み込むことで、従来想定していなかったような法的リスクが新たに発生していないか、金融・医療・自動車など個別の業法に照らして、改めて検証を行うことも必要になります。
さらに、説明可能性、ロバスト性、バイアスといった技術的観点においても、生成AIに対する評価手法と、従来の予測型AIに対する評価手法では大きく異なり、多岐にわたる専門知識も必要となります。
安全安心な信頼できるAIを実現することは、社内のみならず、社外のお客さまやステークホルダーからも求められる、重要な経営課題の一つになっています。ただし、その実現には、多くの時間と労力を要し、すべてのシステムを人手で管理することは非常に困難です。
全体像を短時間で一元的に把握、安全安心なAIシステムを実現
Citadel AIが提供する「Citadel Lens（シタデル・レンズ）」は、生成AIから従来の予測型AIまで、企業内で稼働するあらゆるAIシステムを、自動で評価・モニタリングできる統合プラットフォームです。
エンジニア向けには「テクニカルレポート」で、モデルの性能・信頼性・バイアス等を詳細に可視化。経営層・監査部門には「ガバナンスレポート」で、ISOなど各種規制への適合性を一目で確認いただくことが可能です。
Citadel AIでは、こうした詳細なテクニカルレポートやガバナンスレポートに加え、それらのレポートを当社独自のLLMアプリケーションが自動で読み解き、重要なポイントを簡潔に取りまとめて提示するサービス「Eval Insight（イーバル・インサイト）」を提供しています。
今回、そのEval Insightの機能が大幅に進化しました。




今回の機能拡充に伴い、生成AIアプリケーションに加え、多くの企業で従来から活用されている与信審査のような表形式モデルや、画像診断モデルなどの予測型AIにも対応できるようになりました。
Eval Insightでは、以下のようなAIシステムの脆弱性や評価結果を抽出し、分かりやすい言葉で解説します。
•
総合的なパフォーマンス評価
•
データセグメントごとのモデルバイアス
•
インプットデータの偏移に対するモデルのロバストネス（堅牢性）
•
モデルのキャリブレーションエラー　等
Eval Insightを導入することで、生成AIから予測型AIまで、企業で導入されている多様なAIシステムの全体像を、短時間で一元的に把握し、効率的に的を絞って品質改善やモニタリングを進めることができるようになります。システム開発をされるエンジニアの方々のみならず、マネジメントの方々、あるいは管理部門・内部監査部門の方々にとっても、非常に便利なサービスです。
【関連情報】
•

AI時代の防衛戦、次世代ファイアウォール提供開始

•

NEDO「AIセーフティ強化に関する研究開発」の採択について

【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストとモニタリングを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役　 小林裕宜
設立　　　　 2020年12月10日
企業URL

https://citadel-ai.com/ja/

X (Twitter)

https://twitter.com/CitadelAI

お問合せ　　 info@citadel-ai.com

NEDO「AIセーフティ強化に関する研究開発」の採択について
株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）の事業「
AIセーフティ強化に関する研究開発
」に、国立研究開発法人産業技術総合研究所（産総研）ならびに株式会社コーピーと共同提案を行い、採択されましたことをご報告いたします。




1.本事業の目的
本事業は、生成 AI を適切に管理・利用するために必要となる、
AIセーフティ基準の策定・普及と AIセーフティ評価・管理技術の開発
を一体的に行うことを目的に、以下の研究開発を推進するものです。
•
リスクベースアプローチの基になる
安全性の“ものさし”となる評価・管理技術の開発
•
暮らし領域での
評価手法の開発と実証 およびテスト環境構築技術の開発
•
国際標準化および普及のためのガイダンス
等の整備
2.背景
近年、生成AIの技術が急速に進展し利便性が向上する一方で、その
安全性や信頼性を評価し技術検証する具体的な基準や手段
が確立されていないことが、企業がAIを本格導入する上での大きな障害となり始めています。
AIが単体のソフトウェアの域を超え、さまざまなビジネスアプリケーションや、自動車・ロボット・医療機器からコンシューマープロダクトにまで組み込まれる中、こうした
高付加価値製品の頭脳たるAIの開発・導入で立ち遅れることは、日本の将来を大きく脅かすことになりかねません
。
3.Citadel AIの役割
弊社は本事業の中で、AIセーフティ・インスティテュート (AISI)、産総研ならびにAI品質マネジメントイニシティアブ（AIQMI）等と連携の上、以下の研究開発を取り進めます。
安全安心で高品質なAI製品・AIサービスの実現と社会実装の促進
を通じて、
日本ブランドの価値向上と、企業の国際競争力の更なる強化
に貢献してまいります。
•
産業界のニーズと技術的有効性に裏打ちされた
AIセーフティの評価基準・評価手法の整理
•
高い安全性や品質が求められる
社外向け生成AIアプリケーションの企業向け実装解説の作成
•
AIセーフティを実現する
評価指標（メトリクス）の開発と技術検証
を通じた有効性の確認
【関連情報】
•

AIの品質検証で経営力を強化、Eval Insight 提供開始

•

AI時代の防衛戦、次世代ファイアウォール提供開始

【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社のAIシステムの品質検証・モニタリングツールは、AIのモデルやフォーマットに依存することなく、生成AIから予測型AIまで、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役　 小林裕宜
設立　　　　 2020年12月10日
企業URL

https://citadel-ai.com/ja/

X (Twitter)

https://twitter.com/CitadelAI

お問合せ　　 info@citadel-ai.com

AI時代の防衛戦、次世代ファイアウォール提供開始
攻めと守りを一元管理、ユースケースに即したAIセーフティを実現
株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、生成AIの入出力をユースケースに応じて高精度で自動フィルタリングする「Lensカスタムファイアウォール」の提供を開始します。業務に精通したドメインエキスパートによる常時監視と同等レベルの安全性を、検証段階のみならず運用段階においても実現、AIに起因するセキュリティリスクやレピュテーションリスクからお客様を守り、経営基盤の強化をサポートします。




ユースケースに応じて高精度で自動フィルタリングする「Lensカスタムファイアウォール」
今求められる生成AI向けファイアーウォールとその課題
さまざまなAIが、企業の経営部門、研究部門、製造ライン、営業、コンタクトセンターなど、複数の現場で導入され始めています。AIを積極的に導入し、経営力を強化する動きが進む一方で、そのセキュリティリスクやレピュテーションリスクから、いかに企業を守るかという「攻めと守り」のバランスが非常に重要になっています。
大規模言語モデル（LLM）の利用にあたっては、 有害な入出力や悪意のある攻撃、あるいは個人情報漏えい等を防ぐために、各種のコンテンツフィルターやガードレールが提供されています。
しかしながら、企業で実際に利用されるLLMアプリケーションについては、社内規定やマニュアル、顧客データベースなど、一般公開していない情報や、業界特有の業法などに基づいた応答が求められるケースも数多く存在します。こうした場合、汎用的なコンテンツフィルターやガードレールでは十分対応できず、適切な制御が難しくなることがあります。
この結果、過剰な検出（オーバーブロッキング）や検出漏れ（アンダーブロッキング）が生じ、利便性や安全性が大きく損なわれてしまったり、ユースケースごとに異なる公平性やセキュリティの定義に柔軟に対応できないといった問題が発生します。さらに、日本語のコンテンツに対して、期待される精度やサービス品質が出せないこともあります。
例えばコンプライアンスにかかわる問題や健康にかかわる回答など、アプリケーションやサービスの内容によって「どこまで答えるべきなのか、答えないべきなのか」が変わるため、一律のフィルターやガードレールでは対応が困難です。




カスタムメトリクスに基づく次世代ファイアウォールのメリット
ユースケースごとにカスタマイズされた高精度の次世代ファイアウォール
当社ツールCitadel Lensでは、生成AIシステムの検証を行う際、お客さまごとのユースケースにあわせたカスタムメトリクス（オーダーメイドの評価指標）を簡単にチューニングした上で、評価レポートを作成することができます。
あらかじめ定められた指標で、すべてのユースケースを一律に評価しようとするのではなく、各業務に精通したドメインエキスパートの人間の目線に、システムの方を合わせに行くことで、高精度な自動評価を実現するというアプローチです。
今回このカスタムメトリクスの強みをさらに拡張し、その強みを運用段階にも最大限に活かした「Lensカスタムファイアウォール」の提供を開始します。
まずは、Citadel AIの独自技術「Metric Generator」を導入し、これまで手作業で作成していたカスタムメトリクスの作成を自動化します。これにより、お客さまの検証段階の手間を大幅に削減することが可能になります。




Metric Generatorによるカスタムメトリクスの自動生成
さらに、このカスタムメトリクスを、検証段階だけでなく、運用時のフィルタリングにもシームレスに適用できる「Lensカスタムファイアウォール」を新たにリリースします。これにより、業務に精通したドメインエキスパートが、常時監視しているのと同等レベルの安全性を、運用段階においても、自動かつ継続的に実現します。オーバーブロッキングやアンダーブロッキングを避けながら、安全・安心なAI活用を推進します。
日本語テキストにも万全に対応、AIに起因するセキュリティリスクやレピュテーションリスクを、ユースケースに応じてきめ細かく識別し対処する「次世代ファイアウォール」です。お客さまの環境に最適な形でリスクをコントロールし、攻めと守りの両面から、経営基盤の強化をサポートします。




Lensカスタムファイアウォールの設定画面
Lensカスタムファイアウォールの機能
•
Citadel AIの独自技術「Metric Generator」を導入し、これまで手作業で作成していたカスタムメトリクスの作成を自動化
•
Lens上で作成したカスタムメトリクスを、ファイアウォールのフィルターとしてシームレスに適用、検証時のみならず運用段階についても高精度の安全性を実現
•
個々の入出力のフィルタリングのタイミングをAPI経由で任意に設定
•
Lensの UI上で詳細なガードレールルールを自由にカスタマイズ
•
フィルタリング結果をログとして蓄積、Lensを用いた事後の詳細分析が可能
•
フィルタリング結果に対する根拠・説明をわかりやすい言葉で提示
•
フィルタリングのタイミング並びに手法を、非同期・同期、あるいはLLMベース・ロジックベースで切り替えることで、用途に応じてレスポンス時間を制御
【関連情報】
•

AIの品質検証で経営力を強化、Eval Insight 提供開始

【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役　 小林裕宜
設立　　　　 2020年12月10日
企業URL

https://citadel-ai.com/ja/

X (Twitter)

https://twitter.com/CitadelAI

お問合せ　　 info@citadel-ai.com

AIの品質検証で経営力を強化、Eval Insight 提供開始
AIセーフティを自動検証し、生成AIが重要なポイントを解説
株式会社Citadel AI（本社：東京都渋谷区、代表取締役：小林裕宜）は、AIシステムの課題や改善すべきポイントを、分かりやすい言葉でまとめて自動解説するLLMサマリー「Eval Insight（イーバル・インサイト）」をリリースします。
お客さまのAIシステムの信頼性や安全性を、当社独自のLLM（大規模言語モデル）を活用した専用アプリケーションが自動で分析して読み解き、重要なポイントを簡潔に取りまとめて提示する画期的なサービスです。




さまざまなAIが、経営部門、研究部門、製造ライン、営業、コンタクトセンターなど、複数の現場で導入され始めています。AIを積極的に活用しつつ、同時にそのセキュリティリスクやレピュテーションリスクから、いかに会社を守るかという「攻めと守り」のバランスが非常に重要です。
しかしながら、全てのAIシステムを人手で評価・管理し、安全安心な運用を維持し続けるためには、専門的な知識に加えて、非常に多くの時間と労力を要します。
Citadel AIは、生成AIから従来の予測型AIまで、同一プラットフォーム上で自動的に品質検証とモニタリングを行う「Citadel Lens（シタデル・レンズ）」を提供しています。医療・自動車・金融・保険業界など、さまざまな企業で導入が進んでいます。
Citadel Lensでは、エンジニア向けの「テクニカルレポート」と、管理部門・内部監査部門向けの「ガバナンスレポート」を自動生成することができます。テクニカルレポートでは、システムの品質を詳細分析し最適化を支援します。一方、ガバナンスレポートでは、ISOなどの国内外の基準に基づいてコンプライアンスを強化し、適切な運用を促進します。




今回新たに加わったLLMサマリー「Eval Insight」は、時間が無い皆さま向けに、こうしたレポートの要点を自動で取りまとめ、業務の効率化をさらに一歩進める非常に便利なサービスです。当社が独自開発したLLM（大規模言語モデル）の専用アプリケーションが、Lensのレポートを技術的な観点あるいは規制や標準の観点から自動で読み解き、重要なポイントをお客さまに分かりやすい言葉で簡潔に解説します。
Eval Insightを導入することで、AIシステムのスナップショットを、即座に把握することが可能となり、限られたリソースの中で、効率的に的を絞って品質改善を進めることができるようになります。システム開発をされるエンジニアの方々のみならず、マネジメントの方々、あるいは管理部門・内部監査部門の方々にとっても、AIセーフティを強化する上で画期的なサービスです。




Citadel LensのLLMサマリー「Eval Insight」の機能例
以下のような機能を順次導入していきます。皆さまからの

ご要望

もお待ちしています。
•
生成AIの評価レポートを、安全性や信頼性の観点から自動解析。評価したアプリケーションについて、セキュリティリスクやハルシネーション問題につながりかねない入出力パターンを抽出し、分かりやすい言葉で理由を解説。
•
テクニカルレポートを、エンジニアの技術的観点から自動解析。評価したモデルについて、弱点領域やバイアスの所在、失検知・過検知、ロバストネスなど、AIの品質や信頼性にかかわる重要なポイントを抽出し、分かりやすい言葉で取りまとめて解説。
•
ガバナンスレポートを、コンプライアンスやレピュテーションリスク、公平性などAIセーフティにかかわる重要なポイントに力点を置き自動解析。該当する規制や標準の情報とともに抽出し、分かりやすい言葉で解説。
【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役　 小林裕宜
設立　　　　 2020年12月10日
企業URL

https://citadel-ai.com

X (Twitter)

https://twitter.com/CitadelAI

お問合せ　　 info@citadel-ai.com

Citadel AI、デロイト トーマツとAI 品質検証・モニタリングにおいて協業開始、企業のAI活用を守りの観点で支援
AIのリスクを効率的にモニタリングし、幅広い領域でのAI活用を支援
AIの自動品質管理システムを提供する株式会社Citadel AI（東京都渋谷区、代表取締役：小林 裕宜、以下「Citadel AI」）は、デロイト トーマツ グループのデロイト トーマツ コンサルティング合同会社（東京都千代田区、代表執行役：神山 友佑、以下、「デロイト トーマツ」）とAI品質検証・モニタリング分野における協業を開始しました。




生成AIの登場により、企業におけるAI導入が加速化すると共に、手軽にAIが利用できるソリューションも数多く提供され、誰もがAIを活用できる “AIの民主化”は進展しています。さらに今年はAIが自律的に判断し複数のタスクを実行するAIエージェントの普及も見込まれています。AIは現在のコーポレート業務を始めとする社内利用中心から、生産性向上のみならず価値創造の領域まで全社で幅広く活用されていくことが予想されます。
他方、AIのリスクは認知され始めているもののAI活用と両輪での推進には至っておらず、企業はより積極的にAIリスク対策に目を向ける必要があります。さらに、対象となるAIモデル数は現在ごく少数でも、AI活用の対象ケース増加に伴い増え人手によるAIリスクモニタリングが限界に達することが見込まれます。より効果的な手法としてリスクモニタリングのデジタル化、自動化も視野に入れることが肝要です。
このような現状に対し、デロイト トーマツではAIリスクについて対策の検討から実行、運用まで包括的にサポートできる体制が急務と考え、AI品質検証技術を有するCitadel AIとの協業に至りました。
デロイト トーマツでは従来からAIリスクガバナンスの実現に向け、「Trustworthy AI(TM)」フレームワークを活用し、AIリスク対策方針の策定からガイドライン・プロセス・体制の構築と運用までを支援するAIガバナンス策定・実行支援サービスを提供しています。本協業を通じて、企業がAIのリスクを効率的にモニタリングしながら、幅広い領域でAI活用を進められるように支援し、企業が直面するAI活用における課題解決に寄与することを目指します。
本協業においてCitadel AIは、学習時のAIモデルやデータを自動で検証し、品質改善の高速化を実現する「Citadel Lens」、運用時のAIモデルやデータを継続的に監視し、安定した運用を支援する「Citadel Radar」、大規模言語モデル評価ツール「Lens for LLMs」を始めとした、先進的なAI品質検証・モニタリング技術を提供します。
デロイト トーマツ コンサルティング合同会社 パートナー 吉沢雄介
Citadel AIとの協業により、AI活用の先進企業には推進スピードとスケールに見合ったAI品質保証とモニタリングの手段を、リスク対策が障壁となりAI活用を積極推進できていなかった企業には一歩踏み出すための手段を、それぞれ包括的に提供できることを非常に嬉しく思います。この協業を通じて、企業が直面する課題を迅速かつ的確に解決し、AI・デジタル時代における競争優位性の確立を支援します。
株式会社Citadel AI 代表取締役 小林 裕宜
デロイト トーマツ コンサルティングとの協業は、当社のAI品質検証・モニタリング技術のオファリングをさらに強化し、より多くのクライアント企業に価値あるソリューションを提供するための重要な一歩となると考えています。この協業を通じて、AIを活用した企業のデジタル変革を加速させるとともに、安心してAIを活用できる社会の実現に貢献して参ります。
【デロイト トーマツ コンサルティング合同会社について】
デロイト トーマツ コンサルティングは、デロイトの一員として日本のコンサルティングサービスを担い、提言と戦略立案から実行まで一貫して支援するファームです。クライアントの持続的で確実な成長を支援するコンサルティングサービスはもちろん、社会課題の解決と新産業創造でクライアントと社会全体を支援します。
【株式会社Citadel AIについて】
Citadel AIは「信頼できるAI」の社会実装を実現する、日本発のグローバルスタートアップです。ハイリスクAIの課題と正に実戦で闘って来た世界のエンジニアが結集し、開発をリードしています。弊社製品は、AIのモデルやフォーマットに依存することなく、統一化されたテストを、汎用的に適用することが可能です。国際標準業界を代表するBSI等に採用され、グローバル市場で高い評価をいただいています。
代表取締役　 小林裕宜
設立　　　　 2020年12月10日
企業URL

https://citadel-ai.com/

X (Twitter)

https://twitter.com/CitadelAI

お問合せ　　 info@citadel-ai.com