IMDAが提供する「AI Verify」は、組織がAIシステムのパフォーマンスを検証するための、AIガバナンステストフレームワークおよびツールキットです。AI Verifyは拡張性を備えており、例えば業種別のガバナンスフレームワークといった追加のツールキットを開発することも可能です。また、AIガバナンスにおけるオープンな連携を促進するため、AI Verify Foundationは、AIテストフレームワーク、コードベース、基準、ベストプラクティスの構築と普及に取り組んでいます。

AI Verifyのテストプロセスは、公平性、説明可能性、堅牢性という3つの原則に基づく技術的テストで構成されています。さらに、プロセスチェックは、特定された11の原則に対して実施されます。このテストフレームワークは、EU、OECD、シンガポールなど、国際的に認知されたAIガバナンス原則と整合するよう設計されています。

AI Verifyは、ユーザー組織の企業環境内で動作する統合ソフトウェアツールキットであり、ユーザーのAIモデルに対する技術的テストの実施とプロセスチェックの記録を行います。ユーザー組織は、生成されたテストレポートを共有することで、AIシステムの透明性を株主に対して示すことができます。

「人工知能の大きな可能性は、私たちに公共の利益のためのAI創造というビジョンを描かせます。その真の潜在能力が完全に引き出されるのは、AIをより広範な人々のためにどのように活用するかについて、より高度なコンセンサスに達したときです。シンガポールは、政府はもはや単なる規制者や実験者ではなく、AI革命における完全な参加者であると認識しています。」

AI Verify Foundationは、AIテストフレームワーク、コードベース、基準、ベストプラクティスの開発を支援するとともに、AIガバナンスのためのオープンな連携を促進します。

責任あるAIの活用は、AIシステムを導入する企業や規制当局にとって重要な課題となっています。特に、生成AIがさまざまな業界で数多くのユースケースに広がるなかで、以下のようなリスクが懸念されています：

（f）価値観の不一致や人間の意図との整合性

https://aiverifyfoundation.sg/ai-verify-foundation/