1．はじめに
AIの普及が進むにつれて、利便性や生産性の向上に大きな期待がかかる一方、プライバシー侵害、フェイク情報や過激な主張の拡散、セキュリティリスク、仕事の喪失など人びとの不安や懸念も高まってきた。AIの開発と利用にあたっては、守るべき原則や価値観を示すAI倫理とそれを組織や社会に実装するためのAIガバナンスは全世界に共通する重要な課題となっている。
日本政府はAIに関わる人間中心の原則をいち早く発信し、国際的な議論でリーダーシップをとってきた経緯がある。また、国内外の企業においても人間中心の原則を重視する姿勢を表明するケースが増えている。AI開発と利用の両面で日本の遅れがしばしば指摘されるがi、AI倫理や人間中心の原則に沿った開発と利用を日本の強みとすることができれば、AIビジネスを担う日本企業が、社会課題や倫理的問題の解決に貢献するだけでなく、新たなグローバル市場の開拓によって日本の競争力向上も期待できるのではないか。
そのような問題意識を持ちつつ、本稿では企業・団体が組織的にAIを活用する「エンタープライズAI」に焦点を当て、「人間中心のAI」をいかに実践するかを考えたい。はじめにAI開発・利用の原則と現実とのギャップに触れた後、人間中心の原則に基づく富士通と日立製作所の事例を紹介する。富士通は生成AIが普及する以前から「ヒューマンセントリック」の理念を掲げ、現在はAI倫理を重視した事業を全社的に展開している。日立はAIの全社的な活用を推進し、とくに熟練者の知識やノウハウの継承に力を注いでいる。
2．AI開発・利用の原則と現実のギャップ
日本政府が「人間中心のAI社会原則」iiを公表したのは2019年3月である。「人間の尊厳が尊重される社会」「多様な背景を持つ人々が多様な幸せを追求できる社会」「持続性ある社会」を基本理念に掲げ、①人間中心の原則、②教育・リテラシーの原則、③プライバシー確保の原則、④セキュリティ確保の原則、⑤公正競争確保の原則、⑥公平性、説明責任及び透明性の原則、⑦イノベーションの原則、の7原則を提示した。真っ先に掲げられた「人間中心の原則」では、「AIは、人々の能力を拡張し、多様な人々の多様な幸せの追求を可能とするために開発され、社会に展開され、活用されるべきである」と記されている。2023年5月のG7広島サミットで日本は議長国として「広島AIプロセス」を提案し、同年10月には行動規範を公表した。こうした経緯を経て、人間中心のAIに関する国際合意が形成されてきたと言えよう。
一方で、AIの技術更新は数か月単位で急速に進むため、技術普及と規制・ルール・ガイドライン整備とのギャップをなかなか埋められないのが現状である。とりわけSNSや検索エンジン、動画配信プラットフォームといった個人向けサービスでは、AIアルゴリズムが利用者の滞在時間やクリック率を最大化して広告収益を上げるように設計されているため、社会の分断を助長するような過激な主張が拡散されてしまう、フェイクニュースやディープフェイク動画、詐欺まがいの広告が後を絶たない、といった問題が深刻になっている。にもかかわらず、国際的に足並みの揃った規制やルールがあるわけではなく、現実には技術を提供する企業の自主規制に依存せざるをえない面も少なくない。企業にはイノベーションの推進と並行して、AIの透明性や説明責任を確保する技術開発、共同のルールやガイドライン作成への協力など、より倫理的・社会的に責任ある行動が求められるようになっている。
「人間中心（ヒューマンセントリックまたはヒューマンセンタード）」を体系的に提唱してきた代表的な企業としてIBMをあげることができる。1960年代のメインフレームの時代から人とコンピュータの協働を重視し、1980年代には社内に「ユーザー中心設計」の専門部門を設置。1990年代以降「人間中心のシステム」や「デザイン思考」を統合し、現在も「人間中心のAI」を研究開発の柱にしている。マイクロソフトも2010年代に「地球上のすべての個人と組織がより多くを達成できるようにする」を経営理念に掲げ、2017年には公平性・信頼性・安全性・プライバシー・包摂性・透明性を重視したAIプリンシプルを策定した。
アメリカ以外ではドイツのSAPがデザイン思考を採用する過程で、人間中心の志向を強めていき、2020年代には「SAP Responsible AI」フレームワークを策定している。そして、日本では富士通が先駆者と言えるだろう。
3．富士通の「ヒューマンセントリックAI」
3.1 AI倫理研究から「AIコミットメント」宣言へ
富士通は2000年代初頭から「人にやさしいICT」を掲げ、2010年頃に「Human-Centric Intelligent Society（人間中心のインテリジェント社会）」を企業ビジョンとして正式に採用した。2013年には、同ビジョンに基づいて技術・商品を体系化した「Fujitsu Technology and Service Vision」を策定している。さらに、2015年には「人と協調する、人のためのAI」をコンセプトに掲げたAI技術を「Human Centric AI Zinrai（じんらい）」として体系化した。2010年代後半には「ヒューマンセントリック・イノベーション」を掲げ、2017年頃から研究所でAI倫理の研究を開始している。
富士通研究所シニアプロジェクトディレクターの小橋博道さんは、イギリスに駐在していた2017年にデジタル倫理学の第一人者で当時オックスフォード大学デジタルエシックス研究所のルチアーノ・フロリディ所長を訪ね、AI倫理の共同研究を行った経験を持つ。小橋さんは「一緒に駐在していた方と、今後AIが賢くなっていくと倫理が重要になるだろうという話をしていたのですが、ただ当時は誰もそこに目を向けていなかった。そこで、デジタル倫理の研究で著名なフロリディ所長を訪ね、AI倫理の研究を一緒に始めようと持ちかけたのです」と語る。
写真1 小橋博道・富士通研究所シニアプロジェクトディレクター
（出典）筆者撮影
その後、同社のAI倫理研究は富士通研究所データ＆セキュリティ研究所 リサーチディレクターの中尾悠里さんに引き継がれた。中尾さんは2025年6月に施行された日本初のAI推進法（「人工知能関連技術の研究開発及び活用の推進に関する法律」）の策定に貢献した内閣府AI制度研究会の構成員を務め、AI倫理技術やAIと人間の相互作用に関する研究で注目されている。
2019年3月、AI倫理方針の「富士通グループAIコミットメント」を発表した。これは、同社がステークホルダーに倫理原則を満たすAIの提供をめざすと宣言したもので、①AIによって顧客と社会に価値を提供する、②人を中心に考えたAIをめざす、③AIで持続可能な社会をめざす、④人の意思決定を尊重し支援するAIをめざす、⑤企業の社会的責任としてAIの透明性と説明責任を重視する、という5項目が掲げられたiii。
2020年代に入ると「ヒューマンセントリック」は中核的価値観と位置付けられる。2021年、富士通研究所と北海道大学が世界で初めて「説明可能なAI（XAI）」を開発した。AIの利用にあたっては、AIの判断理由がわからないという欠点があるため、その問題を解決する技術開発の成果だった。同年には新事業モデル「Fujitsu Uvance」で、サステナビリティと人間中心のデジタル社会を実現するための取り組みを一段と強化すると表明している。
2025年7月、富士通は「Fujitsu Technology and Service Vision 2025」ivを発表し、人とAIのコラボレーションによる価値創造と、エコシステムによる価値創出スケールの拡大を強調した。現在では同社が展開するすべての事業が、2022年1月に設置された「AI倫理ガバナンス室」（現在の名称は「AI倫理室」）と連携される仕組みとなっている。
3.2 会議参加者を“自発的”に支援するAIエージェント
富士通が2025年2月に15か国800人の企業経営者を対象に実施した調査によれば、生成AIをすでに導入済みの企業は98％、今後AI投資を拡大すると回答した企業は77％にのぼった。AIを活用する人材の不足、データの漏洩、著作権侵害が課題であると回答した企業が比較的多いものの、生成AIはすでに企業の活動の中に広く定着していくフェーズに入っている。
エンタープライズAIの次のフェーズとして注目されているのがAIエージェントである。国内外のIT企業がAIエージェントの開発にしのぎを削るなかで、富士通は「Zinrai」に代わる新しいAI技術体系として2023年4月に「Fujitsu Kozuchi（こづち）」を発表した。これは企業向けに設計されたAIプラットフォーム／AIサービス群で、独自の生成AI技術に加え、自動機械学習によるモデル設計、予測分析、画像処理、エージェント機能を備えている。クラウド上で提供され、企業が自社システムにAI機能を組み込みやすい形態となっている。
富士通の社内会議で導入されているのが「Fujitsu Kozuchi AI Agent」である。たとえばマイクロソフト社のMicrosoft Teamsを使った営業会議にこのAIエージェントを参加させると、地域別の売上動向が話題になった時には地域別売上の棒グラフを作成して表示する（写真2参照）。AIエージェントは、社内の複数のデータベースから売上集計のために必要なExcelデータを集めて変換し、地域ごとのグループ化を行うプログラムを作成して実行、さらに表示は棒グラフが適切だと判断してそれを表示するまでを一貫して行っている。すでに同社の中では役員会議から営業会議まで広く活用されている。
写真2 AIエージェントが参加したオンライン会議の画面
（出典）https://www.youtube.com/watch?v=SUs3LccGi8o&t=30s
AIエージェントの開発に携わっている小橋さんは、富士通のAIは自律的ではなく自発的に動くものだと語る。
「一般的にAIエージェントは“自律的”と言われていて、富士通でもそう表現していましたが、正しくは“自発的”という言葉を使うべきだと考えています。つまり、自律的に人に代わって何かをするのではなく、自発的に人に働きかけるわけです。会議参加の例では、人に代わって（自律的に）発言し人の議論を遮るのではなく、人の議論に寄り添って参加者の会話を聞き、数字の話をしているなら数字を確認してグラフを（自発的に）作成します。AIはバディであるというのが富士通の基本的な考え方です。オートノーマスではなくプロアクティブなのですv」
このような機能を持つAIエージェントの開発は次の4つの段階で構成される。
・第1段階：AIエージェントの中身となる生成AIを選択する
・第2段階：AIエージェントごとに役割や専門性を持たせる。たとえば、販売営業データに関して提案するAIエージェント、市場分析を専門とするAIエージェント、人事データを分析できるAIエージェントなど。
・第3段階：ツールとデータを整備する。生成AIでは対応できない作業のためのツールを整備する。また、社員と同様にエージェントにも役割や専門性に応じてデータベースへのアクセス権限を設定する。
・第4段階：「ガードレール」すなわちAIエージェントがしてはいけないことを設定するセキュリティ上の対策を行う
AIエージェントが長期にわたって会議に参加していると、会議内容が蓄積されるためAIエージェント自体が進化していく。その結果、特定の部署や業務に特化したエージェントになったり、会議の進め方や社風を理解したエージェントになったりする。小橋さんは「企業は法人という人格を与えられていますが、法人をエージェントにコピーすることはそれほど不思議ではないと思います」と言う。また、ベテラン社員や熟練者が退職した時の知識やノウハウの継承が日本の経営課題になっているが、エージェントに伝授して継承し、それを新人教育に活用することへの期待が日本企業では高いのではないかと考えている。
4．日立、熟練者のノウハウを生成AIで継承
日立製作所は全社的なAI活用を推進し、なかでも熟練者の知識やノウハウの継承に力を注いできた。人口減少による労働力不足や熟練者の減少という社会課題を解決するために、熟練者の経験や暗黙知をも共有・継承できるようにしたAIシステムを開発し運用している。まさに「人間中心のAI社会原則」に則った取り組みと言えるだろう。
AI＆ソフトウェアサービスビジネスユニット・AI CoE Generative AIセンタ・ワンストップサポートサービス部長の滝川絵里さんは、全社的なAI活用の推進について次のように語るvi。
「現場ではITやAIに抵抗のある人もいます。また、利用者によって質問の仕方が変わって生成AIの出力にばらつきが出たりします。これらの問題解決には、生成AIを普段使うアプリケーションに組み込むこと、AIエージェントでAIの使い方をリードしてもらうことが有効でした。そのために全社的な生成AI共通基盤を用意し必要なツールを提供していて、現場が使いたいアプリケーションを自ら開発できる環境を整備しました。これによって業務アプリケーション開発のハードルが大きく下がり、すでに約200プロジェクトで現場が開発して使っています」
写真3 滝川絵里・日立製作所AI＆ソフトウェアサービスビジネスユニット・AI CoE Generative AIセンタ・ワンストップサポートサービス部長
（出典）日立製作所
さらに、滝川さんは熟練者のノウハウをAIエージェントで有効活用されるために重要であるのは「暗黙知、判断基準、手順・マニュアル、対応履歴など多様な要素をAIに入れること。最初は手順・マニュアルだけを入れましたが、実用に耐えうる回答ができませんでした。熟練者の思考回路をしっかり分析して抽出しAIに入れることが重要です」と話す。そのために、エスノグラファーによるインタビューや観察調査を通して暗黙知のデータ化を実施している（図1参照）。
図1 熟練者判断プロセスの知識データ化
（出典）日立製作所
また、社会インフラの制御システムの開発・製造を担う同社の大みか事業所は、顧客からの問い合わせ対応にAIエージェントを活用している。とくにトラブル時の問い合わせに対しては、原因究明や復旧対策を効率化する必要があり、膨大なトラブル対応履歴を蓄積したデータベースから同類事例を検索できる「品質保証業務支援ツール」を2019年に導入したvii。しかし、関連ワードで次々と検索できる熟練者にとっては便利なツールだった反面、若手は必要な情報になかなか辿り着けなかった。若手に代わって熟練者が問い合わせに対応するものの、熟練者が不在の時に対応できないうえ、知見の共有や継承もできないのが問題となっていた。そこで、同ツールにAIエージェントを適用させ、鉄道システムに関する過去事例データに対して機械学習と生成AIを組み合わせた前処理を行い、レコメンド文データベースを作成した。生成AIがこのデータベースから複数の検索文をレコメンドし、経験が少ない若手をサポートする仕組みを構築したのである。
このツールに熟練者の暗黙知を取り込むために、100件を超える「質問」と「模範回答」のペアを熟練者に作成してもらった。生成AIには「質問」だけを入力して回答を出力し、「模範回答」を指標に熟練者が精度を評価して改善点を抽出した。模範回答は、トラブルに対する経験者特有の判断基準やマニュアルにない例外処理が織り込まれた、暗黙知のかたまりに他ならない。これによって、同類事象の検索時間が60分から5分へ、トラブル原因の分析時間が16時間から3時間へ、初報レポート作成時間が120分から5分へ、それぞれ大幅に短縮でき、経験の浅い担当者でも迅速に回答できるようになった。運用時だけでなく上流工程にも良い影響がもたらされた。新たに計画している改修案件について入力すると、過去の同類案件で発生した問い合わせやトラブルが出力されるので、経験の浅い設計者に気づきを与えてくれるためである。今後大みか事業所では、鉄道システムへの本格的な展開だけでなく、電力や上下水道など担当する事業全体に適用していく計画としている。
5．おわりに
富士通と日立の事例を通じて、企業や行政が導入するエンタープライズAIにおいて人間中心の原則を実践するためには2つのポイントがあることに気づかされる。一つは「組織に所属する個人がAIは自分の仕事を助けてくれる仲間のような存在と思えるか」である。これは日本政府が掲げた「AIは、人々の能力を拡張し、多様な人々の多様な幸せの追求を可能とするために開発され、社会に展開され、活用されるべきである」という「人間中心の原則」とも合致するだろう。もう一つは、人間中心の原則を前提としたうえで「組織や社会が抱える課題をAIで解決できるか」である。とくに熟練者の退職や人口減少に伴う労働力不足が問題となっている日本では重要なポイントである。
最後に、人間中心のAIエージェントの開発に力を入れることが日本の強みとなりうる可能性を指摘しておきたい。その理由は三つある。
一番目は、人間中心の原則に沿ったAIの開発や利用は国際的にも共感を得やすく、新たな市場開拓につながると考えられるためである。人の意図や価値を出発点にして、何を目的とするか、いかに人を育てていくかという取り組みはどれほど技術が進歩しても重要な課題であり続けるだろう。
二番目は、AIエージェントがデジタルの世界だけでなくリアルの世界ともつながることで、ロボットやIoTデバイスに組み込まれる応用領域が拡大すると予想されるためである。日本の得意分野である製造やモビリティをはじめ物流・介護など幅広いリアル世界に波及していくと考えられる。ちなみに、日立ではロボティクス・フィジカルAIの世界が2030年くらいに社会に浸透すると予測している。
三番目は、汎用技術（General Purpose Technology）というAIの技術特性にある。近年、AIは長期にわたって社会に浸透し経済社会の構造を大きく変化させる汎用技術であると考えられるようになっているviii。だとすれば、汎用技術はそれ自体の技術革新よりも利用面の革新が社会に大きなインパクトをもたらす点に注意を向ける必要がある。たとえば、コンピュータとインターネットはともに汎用技術であるが、その性能を向上させた企業よりも、それらを利用して情報検索、社会的交流、電子商取引を普及させたグーグル、メタ、アマゾンといった企業が市場のゲームチェンジを起こした。このように画期的な利用を生み出すことは「ユースラディカル」と呼ばれているix。
「生成AIはすべてのデータを学習してしまえばどこかで性能向上にブレーキがかかるかもしれない。最近になってそのような見方をする研究者が出てきました。しかし、生成AIというエンジンの上にAIエージェントが出来上がったことによって、AIエージェントはユースラディカルなものにかなり近づいていると思います」と富士通研究所の小橋さんは語る。また、日立の滝川さんは同社の生成AIへの向き合い方について「言語モデルを作ることよりも、生成AIをとにかく使うことを重視している」と言う。
経済安全保障などの観点から国産生成AI開発は重要であるとしても、ビジネスの観点ではユースラディカルな技術開発の方が大きなインパクトをもたらす可能性がある。今後はエンタープライズAIとパーソナルAIの両分野において、倫理的かつ人間中心のAIエージェントの開発が日本企業によってリードされていくことを期待したい。
i 総務省『情報通信白書 令和7年版』によれば、生成AIの利用は個人も企業も日本は米国・ドイツ・中国より低くなっている。
https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r07/html/nd112210.html
ii 「人間中心の社会原則 平成31年3月29日 統合イノベーション戦略推進会議決定」
https://www8.cao.go.jp/cstp/ai/aigensoku.pdf
iii 中田恒夫・荒木達樹・土屋哲・中尾悠里・Naseer,Aisha・荒堀淳一・山本隆彦［2019］「AI倫理への取り組み：富士通グループAIコミットメントの制定」『FIJITSU,Vol.70, No4』富士通
https://global.fujitsu/-/media/Project/Fujitsu/Fujitsu-HQ/technology/key-technologies/ai/PDF/paper03.pdf?rev=69838ec7feec4794a4832ce77c1ea579&hash=2DCA0C31ABCBB4AF688B3FD4159BF11A
iv 「Fujitsu Technology and Service Vision 2025」
https://global.fujitsu/-/media/Project/Fujitsu/Fujitsu-HQ/about/vision/download-center/FTSV2025-JP.pdf?rev=48728bd24fb048449f1eabafa1d4ecfa&hash=4B365D634B768495F940089291CFC665
v オートノーマス（Autonomous）は他からの指示なしに自律的に動くこと。プロアクティブ（Proactive）は先を見越して自発的、能動的に動くこと。
vi 国際大学GLOCOM 六本木会議オンラインセミナーでの講演を参照。
https://youtu.be/ceyGeAzbc3k
vii 大みか事業所の取り組みについては次のサイトから引用・参照。
https://deh.hitachi.co.jp/_ct/17788395
https://deh.hitachi.co.jp/_ct/17788408
viii たとえば、内閣府「1.AIで変わる労働市場」『世界経済の潮流 2024』の以下のURLを参照。
https://www5.cao.go.jp/j-j/sekai_chouryuu/sh24-01/s1_24_1_0.html
ix 「汎用技術」および「ユースラディカル」については、砂田薫［2025］『情報システム進化論』行政情報システム研究所、21頁～27頁を参照。
砂田 薫（すなだ かおる）
情報システム学会名誉会長/国際大学GLOCOM主幹研究員
ビジネス系IT雑誌の記者・編集長を経て、2003年から国際大学GLOCOMで調査研究に従事。専門は人間中心の情報システム、北欧型デジタル社会、情報政策史・同産業史。行政情報システム研究所客員研究員、中央大学理工学部兼任講師、総務省情報通信審議会専門委員、電気通信事業者協会「ユニバーサルサービス支援業務諮問委員会」委員＆副委員長、情報通信研究機構「Beyond 5G外部評価委員会」委員、情報社会デザイン協会監事、自動車情報利活用促進協会評議員等の活動を行っている。
