📌 Scroll down for the English version

日本からの気づき：責任あるAIとは何か

東京大学の大学院生として、私は金融、テクノロジー、そして公共セクターなど、さまざまな組織と協働する機会を得てきました。こうした経験や対話を通じて、AIガバナンスを単なる抽象的な政策概念としてではなく、テクノロジーを「つくる人」「規制する人」「活用する人」すべてが担う共同の責任として捉えるようになりました。

私が日本で感じたのは、他国とは異なるはっきりとした特徴です。日本は、単に最速のAIを追求したり、責任より計算力を優先したりする国ではありません。日本は、世界で最も信頼できるAIエコシステムの構築を目指しており、その実現は想像以上に近づいています。

責任と透明性という原則に基づく最先端AIの開発は、決して障害ではありません。むしろ、信頼に基づくイノベーションの設計図です。私たち「つくる人」「実践する人」「政策を形づくる人」は、安全で責任あるだけでなく、人間中心のAI開発を実現する責務を共有しています。

日本の強み：責任を軸にした設計思想

日本はこの分野で世界をリードしています。2019年に策定された「人間中心のAI社会原則」は、AI開発における責任と信頼を軸に据えています。アジャイル・ガバナンスやソフトロー的な考え方は、日本が掲げる「ソサエティ5.0」の理念に深く根づいており、持続可能性、多様性、透明性を重視したテクノロジー主導の未来像を描いています。

内閣府の「人工知能戦略専門調査会」と「AIセーフティ・インスティテュート（AISI）」は、政策対話や業界ガイドライン、自主的なベストプラクティスを通じて、日本のAIガバナンスを推進しています。その目的は、イノベーションと責任が共存する環境を育むことにあります。

2023年のG7議長国として、日本は「広島AIプロセス」を主導し、「国際的AI原則」および「先端AI開発組織のための国際行動規範」を策定しました。これらの枠組みは、透明性や説明責任、人権の尊重を強化するとともに、責任あるAIの国際的な基準づくりを後押しし、世界に新しい前例を示しました。しかし、日本にはまだ取り組むべき課題もあります。原則は強固であり、規制も整いつつある一方で、実装の現場ではまだ十分に進んでいません。だからこそ、産業界・政府・学界が一体となり、政策と実務をつなぐ架け橋を築いていく必要があります。

責任あるAIイノベーションを共に進めてこそ、日本の掲げる「世界で最もAIを開発・活用しやすい国」というビジョンを実現できるのです。

政策と実装のギャップ

AIの進化スピードはいまも規制とイノベーションのバランスを試しています。政府は「ペーシング・プロブレム」と呼ばれる課題に直面しており、技術革新の速さに政策枠組みが追いつかず、規制と実装の間にギャップが生じています。

日本のソフトロー的アプローチやアジャイル・ガバナンスモデルは柔軟性を持つ一方で、その開放性ゆえに標準化を運用レベルまで落とし込むことが難しいという側面もあります。産業界も責任あるAIの重要性を認識していますが、公平性・透明性・信頼といった理念を具体的な開発プロセスに落とし込む仕組みはまだ十分ではありません。

この隔たりを埋めるには、AIを「創る側」と「統治する側」が連携することが不可欠です。両者をつなぐ「共創型ガバナンス（Co-governance）」こそが、政策を現場で実装可能な枠組みへと転換するための架け橋となります。

 共創型ガバナンス：責任あるAIをつくるための戦略

政府と産業界はそれぞれの領域で独立して活動するのではなく、並走して取り組むことが重要です。共創型ガバナンスは、両者が共同実験を通じて相互理解を深めるための仕組みです。レギュラトリー・サンドボックスやパイロットプロジェクトを通じて、両者がともに学び、改善し、成長していくプロセスを実現できます。

このビジョンを実現するためには、産業界には以下の姿勢が求められます。

責任をもって構築すること：
企業やスタートアップは、日本の「人間中心のAI原則」と整合したAIガバナンス体制を構築し、責任を起点としたイノベーションを推進していく必要があります。

日本でつくり、日本で鍛えること：
産業界は、日本固有の文化的特徴や社会的ダイナミクスへの理解を深め、それらをAIシステムの設計に組み込むことで、日本社会の構造や価値観に調和した開発を進めていく必要があります。日本社会の仕組みや文脈を反映していくことにより、人間中心で文化的包摂性のあるAI導入につなげることができます。

アジャイルで協働的なガバナンスを実現すること：
スタートアップから大企業まで、政府・学術界・AI安全機関など多様なステークホルダーと連携し、その集合知を具体的なガバナンスの枠組みに落とし込むことが重要です。

このような戦略は、日本が持つ本質的な強みである、アジャイルな運営力と信頼を基盤とした社会構造を最大限に活かすものです。産・官・学の枠を越えた連携により、日本は「責任あるAI」の国際モデルとして、説明責任を「委任」するのではなく「共有」する新しい形を示すことができるでしょう。

今後の展望：信頼を軸に日本のAIリーダーシップを築く

責任あるAIガバナンスは、技術の進化に後追いで対応するものではなく、共通のビジョンをもって先回りして構築されるべきものです。日本がこの分野で主導的な役割を果たすためには、スピード、イノベーション、そして信頼のバランスを取ることが重要となります。

産業界の役割は、まさにそのバランスを見出すことにあります。共創型ガバナンスを通じて、政府・学界・産業界がそれぞれの視点と知見を融合することで、責任あるAIを実現に近づくことができると考えています。

Upstageでは、金融、保険、公共セクターのパートナーと連携し、「責任ある信頼性の高いAI」という共通の理念のもと、業務プロセスにAIを実装する取り組みを進めています。

また、日本語特化型LLM「Syn Pro」の提供を通じて、産業界との協働をさらに強化し、日本発のAIエコシステムの構築に貢献しています。Syn Proが経済産業省の国産基盤モデル認定を受けたことは、日本のAIインフラ強化と「信頼できるイノベーション」の実現に向けた当社の取り組みをさらに後押しするものです。

‍

いま、日本はAI開発をリードできる重要なタイミングを迎えています。同時に、その中心に透明性と信頼を据えたガバナンスを実現するという、社会全体の責任も担っています。

責任なき進歩は長続きしません。日本がAIリーダーシップを確立できるかどうかは、この二つの要素をいかに両立させるかにかかっています。

‍

[ENGLISH VERSION]

Co-Governance: Japan's Human-Centric Blueprint for AI Safety and Innovation

‍

What Japan Taught Me About Responsible AI

As a grad student at the University of Tokyo, I’ve had the opportunity to work and collaborate with organizations across finance, technology, and the public sector. These experiences and dialogues have shaped my perspective on AI governance — not as an abstract policy concept, but as a sense of collective responsibility among those who build, regulate, and implement the technology.

What I’ve observed is something distinct about Japan: it isn't trying to build the fastest AI or prioritize compute over responsibility. Japan is trying to build the most trustworthy AI ecosystem in the world, and it's closer than people realize.

Building frontier AI on the principles of responsibility and transparency is not a bottleneck; it is a blueprint for trusted innovation. Our role as builders, practitioners, and policymakers is to ensure that AI development is not only safe and responsible but also human-centered.

Japan’s Differentiator: Responsibility as a Design Principle

Japan is leading on this front. Its human-centric AI principles place responsibility and trust at the center of AI development. Agile-governance and soft-law are embedded in Japan’s innovative vision of Society 5.0, centered around a tech-forward future through sustainability, diversity, and transparency.

The Cabinet Office’s AI Strategy Council and AI Safety Institute (AISI) coordinate Japan’s AI governance agenda through policy dialogue, business guidelines, and voluntary best practices, fostering an environment where innovation thrives alongside responsibility.

During its 2023 G7 presidency, Japan spearheaded the Hiroshima AI Process, resulting in International Guiding Principles for AI and the International Code of Conduct for organizations developing advanced AI. These frameworks set a global precedent, strengthening transparency, accountability, and human rights, all while encouraging cross-border alignment on responsible AI.

But there's a gap Japan must address: principles are strong, regulation is emerging, yet operational practice still lags. And this is exactly where industry, government, and academia need to move together. Only through collective, responsible AI innovation, can we together realize Japan’s commitment to building the most AI-friendly country for development and implementation.

The Gap Between Policy and Practice

The breakneck pace of AI development continues to try the balance between innovation and regulation. Government faces an ongoing “pacing problem,” as policy frameworks try to keep pace with technological change, which translates into a gap between regulation and implementation.

Japan’s soft-law and agile governance model provides flexibility, but the very same openness can make it difficult to operationalize standards. Industry recognizes the importance of responsible AI but still lacks mechanisms to translate principles like fairness, transparency, and trust into development processes.

Bridging this divide requires cross-sector collaboration between those who build AI and those who govern it. “Co-governance” offers a way to bridge this gap, turning policy initiatives into practical frameworks that industries and startups can use to build with responsibility and trust.

Co-governance: A Blueprint for Responsible AI

Government and industry shouldn’t work in silos, but side by side. “Co-governance” lets policymakers and developers create mutual understanding through joint experimentation. By promoting regulatory sandboxes and pilot projects, both sides can learn, iterate, and thrive.

To achieve this vision, as industry, we must strive to:

Build with Responsibility: Companies and startups should develop their own AI governance frameworks aligned with Japan’s human-centric principles, ensuring innovation develops through responsibility.

For Japan, by Japan: Industry must seek to understand and leverage Japan’s cultural nuances and social dynamics, embedding them within system AI design to align with Japan’s social fabric. Guaranteeing that AI development reflects the inner workings of Japanese society enables the ecosystem to translate those insights into deployment that remains human-centered and culturally inclusive. 

Agile, Collaborative Governance: Startups and enterprises should align through multi-stakeholder cooperation—working with government, academia, and AI safety organizations—to translate collective input into tangible, responsible governance frameworks 

This blueprint leverages one of Japan’s core governance strengths: an agile-driven and trust-based society that naturally fosters cross-industry collaboration. Bridging gaps across all fronts enables Japan to build a global model for responsible AI where accountability is shared, not delegated.

A Path Forward: Trust as Japan’s AI Advantage

Responsible AI governance must be proactive; built through mutual vision as the technology evolves, not after it’s deployed. To lead in this space, Japan must strike the right balance between speed, innovation, and trust. As industry, our role is to find this balance. Leading with “co-governance” enables government and academia to realize responsible AI through mutual input, perspective, and vision.

At Upstage, we’re building with finance, insurance, and public sector partners to embed AI into their workflows — driven by a shared commitment of responsible and trustworthy AI. With the launch of Syn Pro, our Japanese LLM built for and by Japan, we’re backing our industry commitments towards responsible AI and making our mark towards creating a Japan-led AI ecosystem. Syn Pro’s recent selection by Japan’s Ministry of Economy, Trade, and Industry (METI) as a domestic foundation model further highlights our contribution to strengthening Japan’s AI infrastructure and its vision for trustworthy innovation.

Japan faces a critical opportunity to lead AI development, but also the collective responsibility for transparency and trust to be at the core of governance. 

Progress without responsibility is short-lived. Japan’s AI leadership will rest on how well it balances both. 

‍

‍