The Moonshot AI booth at an event held in Shanghai in July (Asahi Shimbun file photo)

EDITORIAL: With AI getting scarier, the need for global safety standards rises

（社説）先端ＡＩ　安全確保の国際基準を

The race to develop cutting-edge artificial intelligence has entered a new stage and prompted a higher level of worry.

In addition to concerns about users abusing the technology for cyberattacks and creating biological weapons, fears have emerged about AI with higher autonomy acting in an unimagined manner.

As such, securing safety has become the top priority.

Amid an environment shut off from the internet, a test was conducted on AI technology being developed by Open AI of the United States. The AI found a way to connect to the internet without human awareness and initiated a cyberattack against another company.

The AI cooperated with other AI to set up a bulletin board in which information was exchanged much like human dialogue.

Experts point to the possibility of recursive self-improvement by AI without any instructions from humans.

Meanwhile, Chinese companies, such as Moonshot AI, have introduced cutting-edge technology like Kimi K3, saying they have reached the same level as U.S. companies in terms of performance evaluation.

In July, China held a ceremony in Shanghai to mark the establishment of the World AI Cooperation Organization, which had 29 signatory nations, including Indonesia, Brazil and South Africa.

The World AI Conference was held at the same time. Chinese President Xi Jinping attended this event, where U.N. Secretary-General Antonio Guterres gave an opening speech.

U.S. companies like Open AI and Anthropic use a closed model in which users lease the technology from cloud storage.

Chinese companies have an open weight model in which users download the AI and can then revise it depending on the purpose.

China’s recent moves show that it is attempting to spread its AI overseas so that Beijing can take the initiative in creating rules advantageous to its companies.

The closed model is intended to prevent technology leaks and abuse.

But opinions in the United States are mixed over whether a closed or open model is preferable.

While the Trump administration’s strategy is to spread U.S. AI to allies and friendly nations, some say it is unrealistic to try to exclude Chinese AI.

U.S. President Donald Trump plans to meet Xi soon, and AI safety is expected to be a topic of discussion.

Although a forum for U.S.-China dialogue is welcome, there is a need to be careful about discussions moving forward based only on the intentions of superpowers.

Rather than have certain nations monopolize technology, a structure should be created to allow the benefits to spread widely around the world.

It will be indispensable to come up with unified standards and rules.

Having put together the Hiroshima AI Process at the 2023 Group of Seven summit, Japan as a middle power has a considerable role to play.

The International Guiding Principles and the International Code of Conduct based on such values as the rule of law and human rights were agreed upon, and 70 nations and regions have expressed their support.

The significance of that effort has only heightened now.

--The Asahi Shimbun, Sept. 9

先端ＡＩ（人工知能）の開発競争が新たな局面に入りつつある。サイバー攻撃や生物兵器の開発に悪用される懸念に加え、自律性を高めたＡＩが想定外の挙動を示す問題が顕在化している。安全性の確保が、最優先で取り組むべき課題となっている。
　米オープンＡＩが開発中のＡＩはインターネットを遮断して行われたテストの最中、人が気づかぬ間に自ら接続方法を見つけ、他社にサイバー攻撃を仕掛けた。ＡＩが他のＡＩと連携して掲示板をつくり、人間同士の会話のように情報交換していたという。ＡＩが人の指示なしに改良を繰り返す「再帰的自己改善」が起きる可能性も指摘される。
　一方、中国企業もムーンショットＡＩの「Ｋｉｍｉ　Ｋ３」など性能評価の指標で米国の先端ＡＩと肩を並べるＡＩを次々と公開している。中国は７月に「世界ＡＩ協力機構」の設立調印式を上海で開き、インドネシアやブラジル、南アフリカなど２９カ国が署名した。続いて開いた「世界ＡＩ大会」では、習近平（シーチンピン）国家主席が出席し、国連のグテーレス事務総長が演説した。
　オープンＡＩやアンソロピックは、利用者がいわばクラウド経由で借りて使う「クローズドモデル」なのに対し、中国のＡＩはダウンロードして用途に応じ改変できる「オープンウェートモデル」だ。一連の動きは、中国のＡＩを海外に広め、自らに有利なルールづくりを主導する狙いがあるとみるべきだろう。
　「クローズ」にするのは、技術の流出や悪用のリスクを考慮しているためとされる。ただ「オープン」か「クローズ」の是非については米国内にも様々な意見がある。トランプ政権は米国のＡＩを同盟国や友好国に普及させる戦略を掲げるが、中国のＡＩを排除することはもはや現実的ではないとの見方もある。
　近く予定される米中首脳会談では、ＡＩの安全性が主題の一つになるとみられる。米中が対話の場を持つこと自体は歓迎すべきだが、大国の思惑だけで議論が進むことには警戒が必要だ。特定の国が技術を独占するのではなく、世界に広く恩恵が行き渡る仕組みを築かなくてはならない。
　そのためにも統一された基準やルールづくりが不可欠だ。２０２３年のＧ７サミットを機に「広島ＡＩプロセス」を取りまとめた日本が「ミドルパワー」の一員として果たせる役割は小さくない。法の支配や人権などの価値観に基づく指針や行動規範が採択され、賛同するのは７０カ国・地域に上る。今日的な意義はむしろ高まっている。

(2026年9月9日)