記事一覧

2026-10-18 17:55:00

私たちはどんな社会に暮らしているのか――ネットワーク社会をおさらいする

私たちはどんな社会に暮らしているのか――ネットワーク社会をおさらいする

最近、企業などが保有する個人情報が、不正アクセスによって大量に漏えいする事件が相次いでいます。国の機関からも注意喚起が出ています。

しかし、そもそも、なぜ事業者などのコンピューター(サーバー)から情報が漏れてしまうのでしょうか。

この問題を理解するために、まずは私たちが暮らしているネットワーク社会の仕組みをおさらいしてみたいと思います。

1.私たちは、すでにつながっている

朝、スマートフォンでニュースやSNSを確認する。

何気ない日常の行動ですが、その情報はどこから来ているのでしょうか。

多くの場合、離れた場所にある別のコンピューターから、インターネットを通じて送られてきています。このように、情報やサービスを提供するコンピューターを「サーバー」と呼びます。

スマートフォンもコンピューターです。インターネットにつながるテレビや家電も、コンピューターとしての機能を備えています。インターネットとは、こうした世界中のコンピューターが、ネットワークを通じて情報をやり取りできる仕組みです。

私たちは自分のスマートフォンだけを操作しているつもりでも、実際には、その向こうにある数多くのコンピューターと通信しています。

買い物、銀行、医療、行政サービスなど、私たちの暮らしは、すでに多くのコンピューターがつながることを前提に成り立っているのです。

2.つながっていても、何でも見られるわけではない

世界中のコンピューターがつながっているからといって、誰もが自由に情報を見ることができるわけではありません。

例えば、マンションには多くの人が暮らしていますが、ほかの住人の部屋に勝手に入ることはできません。それぞれの部屋に鍵がかかっているからです。

コンピューターの世界も似ています。パスワードや暗号化、アクセス権限など、さまざまな仕組みを使って、大切な情報を守っています。

しかし、その仕組みが破られたり、正しく働かなかったりすると、本来は見られないはずの情報に、権限のない人がアクセスできてしまうことがあります。これが情報漏えいにつながります。

3.情報漏えいは、なぜ起こるのか

情報漏えいと聞くと、高度な技術を持つハッカーが、厳重な防御を突破して情報を盗み出す姿を想像するかもしれません。もちろん、そのような攻撃もあります。

しかし、情報漏えいは、必ずしも強固な鍵を壊すことで起こるわけではありません。

例えば、偽物のメールにだまされてパスワードを教えてしまう。情報を守るための設定を間違え、誰でも見られる状態にしてしまう。ソフトウェアの欠陥を悪用される。あるいは、情報を扱う人が誤って別の相手に送信してしまう。

つまり、鍵を盗まれることもあれば、鍵をかけ忘れることもあるのです。

情報漏えいは、技術的な弱点だけでなく、人間の判断や操作、管理の不備によっても発生します。

4.デジタル情報は、盗まれても元の場所に残る

ここに、現実の世界とデジタルの世界との大きな違いがあります。

財布から1万円札を盗まれれば、財布の中からその1万円札がなくなります。ところが、コンピューターの中にある情報は違います。誰かが不正にコピーして持ち出しても、元のコンピューターには同じ情報が残っていることがあります。そのため、盗まれたことにすぐには気づかない場合があるのです。

しかも、デジタル情報は、ほとんど品質を落とさずに何度でも複製できます。一度流出した情報が、さらに別の人へと渡り、広い範囲に拡散する可能性もあります。

これが、デジタル社会における情報漏えいの大きな特徴です。

5.ネットワークの危険は、目に見えない

私たちが歩く道路に穴が開いていれば、通りかかった人も異常に気づくことができます。道路や公園など、物理的な公共空間の不具合は、目に見える形で現れることが少なくありません。

しかし、コンピューターやネットワークの中で起きている異常は違います。誰かが不正に情報を持ち出していても、その様子を普通の利用者が目で確かめることは困難です。

もちろん、専門家は通信記録や監視システムを使って異常を調べています。それでも、膨大な情報の中から不正な動きを発見するには、専門的な知識や技術が必要です。

私たちは毎日インターネットを利用していますが、その安全性を自分自身の目で十分に確かめることはできないのです。

6.つながりは、他人のシステムにも私たちを依存させる

私たちが使うサービスは、その運営会社だけで完結しているとは限りません。

外部のクラウドサービスを利用していたり、ほかの企業の通信設備や認証の仕組みを利用していたりすることがあります。

そのため、自分が使っているサービスそのものが攻撃されていなくても、それを支える別のシステムに問題が起きれば、影響を受けることがあります。

私たちは、自分が直接知らない多くの組織のコンピューターにも、生活を支えられているのです。

おわりに――つながる社会を理解する

ここまで、ネットワーク社会の仕組みと情報漏えいが起こる理由について、おさらいしてきました。確認したポイントは、次の6つです。

  1. 私たちは、すでにつながっている社会で暮らしている。スマートフォンなどは、離れた場所のサーバーと通信してサービスを利用しています。
  2. つながっていても、すべての情報を自由に見られるわけではない。パスワードや暗号化、アクセス権限で、大切な情報が守られています。
  3. 情報漏えいは、さまざまな原因で発生する。パスワードの盗難、設定ミス、ソフトウェアの欠陥、人間の操作ミスなどが原因になります。
  4. デジタル情報は、元の場所に残したまま複製できる。盗まれても気づきにくく、一度流出すると広く拡散する可能性があります。
  5. ネットワークの異常は、目に見えにくい。発見には、専門的な知識や監視の仕組みが必要です。
  6. 私たちは、他の組織のシステムにも支えられている。自分が注意していても、サービスを支える別のシステムが攻撃されれば、影響を受ける可能性があります。

インターネットの便利さと情報漏えいの危険性は、どちらも「つながっている」という仕組みと深く関係しています。

だからこそ、情報漏えいを単に誰かの不注意や、一企業のセキュリティ対策の問題として捉えるだけでは十分ではありません。

私たちは、すでにつながり合い、互いに依存する社会の中で暮らしています。

コンピューター同士の通信が、私たちの社会を支える重要な基盤となっている。

まずは、そのことについて共通の認識を持つことが、これからのデジタル社会の安全を考える出発点になるのではないでしょうか。

2026-10-17 22:19:00

千代田シネマセレクションで見た光景

千代田シネマセレクションで見た光景

先日、千代田区が東京国際映画祭と共催した「千代田シネマセレクション」に参加しました。会場の様子を見て、Xに「大盛況で良かった」と短く投稿しました。この記事では、その理由になった光景を、少し詳しく書き残しておきます。

私は区の副区長ですが、この記事は個人として会場で見聞きしたことを書いたものです。事業の費用対効果については、区として必要な検証を行い、議会でも議論されるべきものと考えています。

ベルサール神田で

私が観たのは、吉永小百合さん主演の『てっぺんの向こうにあなたがいる』です。女性として世界で初めてエベレストに登頂した田部井淳子さんをモデルに、ひとりの女性の挑戦と人生を描いた作品で、2025年の第38回東京国際映画祭ではオープニング作品として上映されました。

会場のベルサール神田には、大勢の観客が集まっていました。見た限り、70歳前後と思われる方が多かったように思います。5、6人で連れ立って来た方々、年配の親御さんと中年のお子さんらしい2人連れ、ご夫婦らしい方々、おひとりで来た方もいました。

普段の映画館とは少し違う空気でした。皆さん映画を観に来ているのですが、同時に、誰かと一緒に時間を過ごすことも楽しみにしているように見えました。映画が目的であると同時に、人が集まるきっかけにもなっている。そんな印象を受けました。

スクリーンの人生と、客席の人生

作品は、世界最高峰への挑戦とともに、家庭や子育て、当時の男女の役割といった問題も描いていました。夢を追うことと、家族の中で期待される役割のあいだで、主人公はどう生きるのか。

観ながら、客席のことも考えていました。吉永さんが俳優として重ねてきた歳月と、客席の方々が生きてきた歳月は、同じ時代の中にあります。上映中、登場人物の言葉に応えるような声が客席からふと聞こえる場面がありました。スクリーンの人生と客席の人生が、同じ場所で重なっているように感じました。

「すでにある関係」を支える

地域のつながりというと、住民同士が新しく知り合うことを思い浮かべがちです。しかし、すでにある関係を保ち、豊かにすることも、同じくらい大切だと思います。

高齢の友人同士が一緒に出かける。離れて暮らす親子が、久しぶりに同じ映画を観る。長年連れ添った夫婦が、共通の思い出になる時間を過ごす。街の中で開かれる映画の催しは、そうした機会をつくります。

「映画館に映画を観に行く」というより、「街で開かれる催しに、誰かと一緒に行く」という感覚に近いのかもしれません。

「+α」をどう考えるか

映画を観る機会を届ける方法は、ほかにもあります。たとえば、一般の映画館で使える鑑賞券を配る方法です。観たい作品を、好きな日時に選べる点で、合理的な選択肢だと思います。

では、上映会にはどんな「+α」があるのでしょうか。今回の事業には、次のような特徴がありました。

  • 過去の東京国際映画祭で上映された7作品が、無料で上映された。
  • 作品によっては、監督とのトークや映画祭の見どころ解説が企画された。
  • 小さな子どもと保護者が一緒に楽しめる上映環境や、バリアフリー字幕の配慮があった。

映画という基本的なサービスに、人が集う機会と、映画祭と連携した文化体験が加わっている、と言えそうです。

もっとも、上映会という方法にも制約があります。日時と場所が決まっているため、その時間に来られない人には届きません。また、足を運ぶのは、もともとつながりのある方が中心かもしれません。上映会が新たにつながりを生んだのか、すでにあるつながりを支えたのかは、私の観察だけでは区別できません。

「+α」にいくらの費用を認めるかは、簡単に答えの出る問いではないと思います。事業費や参加者数といった数字に加え、参加者がどんな時間を過ごしたのかを丁寧に確かめながら、考えていく必要があるのでしょう。

実際に見たこと

私が観たのは、7作品のうちの1作品、1回の上映だけです。ほかの回の様子や、参加された方々の感想まではわかりません。

その1回では、多くの人が集まり、友人や家族と連れ立って映画を楽しんでいました。共感の声が客席から漏れる場面もありました。私が「大盛況で良かった」と思ったのは、そうした光景を目にしたからです。

映画そのものだけでなく、その映画を観るために集まった人々の姿も、心に残る光景でした。

2026-10-12 00:11:00

AI時代の新しい危機に、私たちはどう備えるか

AI時代の新しい危機とデジタル社会の備えを表したイラスト

AI時代の新しい危機に、私たちはどう備えるか

――IDCFクラウドへの攻撃から考える、デジタル文明の基盤と社会の備え

最近、国内で情報漏洩や不正アクセスのニュースが相次いでいます。 これまでは「自分の個人情報は大丈夫だろうか」「パスワードを変えたほうがよいだろうか」と考えることが多かったかもしれません。

もちろん、それも重要です。しかし、2026年10月に発生したIDCフロンティアのクラウドサービスへの攻撃を知り、 それだけでは捉えきれない危機を考えるようになりました。

1.1つのクラウド基盤への攻撃が、多数の組織に及んだ

2026年10月7日、IDCフロンティアが提供する「IDCFクラウド」の一部システムが、ランサムウェアによる攻撃を受けました。 影響対象となったのは、このクラウドを契約する495の企業や自治体です。[1]

対象となった領域では仮想サーバーが停止し、再起動できない状態になりました。 翌8日には、保存されていた顧客データの取り出しや復元は困難との見通しが示され、 顧客自身が保有するバックアップからの復元が案内されました。[2] 10月11日18時の時点でも、復旧作業は続いています。[3]

攻撃経路や攻撃者の意図は、まだ明らかになっていません。それでも、一つの事実ははっきりしています。 デジタル社会の共通基盤が停止したとき、被害は一社の範囲に収まらないということです。

2.自分が攻撃されなくても、被害を受ける

個人情報の漏洩と聞くと、まず漏洩した本人の被害を想像します。 不正ログインや詐欺を防ぐために、本人が警戒する必要があるという話です。

しかし、今回のような共通基盤への攻撃では、事情が違います。

たとえば、よく使うネット通販や病院の予約サイトが、攻撃を受けたクラウドの上で動いていたとします。 自分が狙われたわけではありません。それでも、そのクラウドが止まれば、買い物も予約もできなくなります。 標的ではなかった利用者の生活にも、影響が出るのです。

企業にとっても同じです。自社のシステムが無事でも、仕入先や物流会社、決済事業者が使っている基盤が止まれば、 注文を受けられず、商品も届かなくなる可能性があります。

共通のデジタル基盤が停止する
↓
その基盤に依存する複数の企業や自治体が影響を受ける
↓
取引先や利用者にサービス停止や供給の遅れが及び、
直接攻撃されていない市民の生活にも影響する

この広がり方には、感染症の流行を思い起こさせるところがあります。 感染症が人と人との接触を通じて広がるように、この危機では 組織と組織の依存関係を通じて、障害の影響が連鎖していくのです。 米国のCISA(サイバーセキュリティ・社会基盤安全保障庁)も、重要インフラ間の依存関係によって、 一つの障害が他の機能へ波及し得ることを指摘しています。[4]

似ている点は、もう一つあります。被害が表に出るまでの時間差です。 サイバー攻撃では、攻撃者が侵入した後、発見されないまま活動を続け、ある時点で被害が表面化する場合があります。 被害に気づいたときには、侵入からすでに時間が経っていることもあるのです。 もちろん、すべての攻撃がそうした経過をたどるわけではなく、今回のIDCFの件でどうだったかも分かっていません。

自分が安全なら大丈夫、とは言い切れない。ここに、これまでの個人情報保護の話とは異なる問題があります。

3.パンデミックの記憶が、問いかけること

この出来事を知ったとき、思いがけず、できれば思い出したくなかった記憶がよみがえりました。 2020年に始まった、新型コロナウイルスのパンデミックです。

当初は遠くの地域の出来事に見えていたものが、やがて日本の社会生活全体を変えました。 自分が感染していなくても、学校、医療、仕事、移動、物資の供給などに影響を受けました。

重ねて考えたいのは、広がり方が似ていることだけではありません。 「いま見えている被害が、これで終わりだと考えてよいのか」という問いです。

国内では不正アクセスによる情報漏洩の公表が相次ぎ、情報処理推進機構(IPA)も2026年10月9日、 金融機関や通信事業者などを含む事業者に注意喚起を行いました。[5] 個々の事件のつながりや、今回が大規模な攻撃の始まりなのかは、分かっていません。 だからこそ、断定ではなく可能性として考えておきたいのです。

もし、これがピークではなく、より大きな危機が姿を現し始めている段階だとしたら。

いま、私たちは何を想定しておくべきなのでしょうか。

4.AIは、この危機をどう変えるのか

今回の攻撃にAIが関わっていたかどうかは、分かっていません。 ただ、AIがサイバー攻撃の環境を変えつつあることには、目を向ける必要があります。

英国の国家サイバーセキュリティセンター(NCSC)は、AIが侵入活動の一部を効率化し、 2027年に向けてサイバー脅威の頻度や強度を高める可能性を評価しています。[6]

特に注意すべきなのは、攻撃の敷居が下がることです。 これまで高度な専門知識を必要とした攻撃の一部を、技術の乏しい攻撃者でも、AIの助けを借りて行えるようになりつつあります。 攻撃を仕掛けられる人が増え、しかも一人ひとりが、より速く、より多くの対象に働きかけられるようになる。 それが、AIがもたらす変化です。

これに重なるのが、社会のもう一つの変化です。 多くの組織が、自前のサーバーから共通のクラウド基盤へとシステムを移してきました。 それ自体は効率や安全性を高める合理的な選択です。けれども、 共通基盤が攻撃を受けた場合、その影響が多数の組織に広がり得るという側面もあります。

しかも、この依存は今後さらに深まっていきます。AIそのものが、新しい共通基盤になるからです。 高度なAIは、巨大なデータセンターと、限られた事業者の基盤の上で動いています。 仕事や日々のサービスにAIを組み込むほど、社会はその基盤に頼ることになります。

だからといって、共通基盤から離れるべきだという話ではありません。 AIの恩恵を受けようとすれば、共通基盤を使わずに済ませることは、もはや現実的ではないでしょう。 問われているのは、使うか使わないかではなく、止まり得ることを前提に、どう使うかです。

攻撃の敷居が下がり、効率が高まること。
そして、社会の共通基盤への依存が、避けられない形で深まっていくこと。

この二つが重なるとき、被害は従来の一社、一人という枠を超える可能性があります。 そこに、AI時代の危機を考える重要な論点があると思います。

5.社会の機能が止まることは、空想ではない

2024年2月、米国で医療費の請求・決済を担うChange Healthcareがサイバー攻撃を受けました。 同社を利用する医療機関などで請求や支払いが滞り、米国政府は資金繰りを支える特別措置を設けました。[7]

攻撃を受けたのは1社でも、その会社が担う社会的な機能が大きければ、影響は広く及びます。

時をさかのぼって2015年12月には、ウクライナでサイバー攻撃により電力供給が止まり、 およそ23万人が停電の影響を受けました。停電は一部地域で最大6時間に及びました。 サイバー空間での攻撃が、物理的なインフラに影響し得ることを示した事例です。[8]

設備には独立した制御系統や安全対策もあり、日本で同じことが簡単に起きるとは言えません。 ただ、「社会機能への被害は空想にすぎない」と片づけることもできないのです。

6.「デジタル包囲」という最悪シナリオ

2025年12月、イスラエル国家サイバー総局のヨッシー・カラディ局長は、テルアビブ大学のCyber Weekで 「デジタル包囲(Digital Siege)」という考え方を示したと報じられました。 電力、通信、交通、水などの重要な機能が、サイバー攻撃によって同時に脅かされる事態です。[9]

「ワンクリックで国家が崩壊する」という見出しは、文字どおりに受け取るべきではありません。 注目したいのは、国家のサイバー防衛を担う責任者が、 社会の根幹が麻痺する規模まで危機を想定しているという点です。

最悪のケースとして考えておきたいのは、広い地域で電力や通信、物流、燃料供給、金融決済などが複合的に滞り、 医療や食料、水の確保にまで影響が及ぶ事態です。

今回のIDCFの事件が、社会の混乱を目的としていたという証拠はありません。 それでも、そうした攻撃が起きたときに何を失い得るのかは、考えておくべきでしょう。

最悪のシナリオを考えるのは、予言のためではありません。
社会が何を守るべきかを、明らかにするためです。

7.データのバックアップから、社会のバックアップへ

今回のIDCFの件で、特に重く受け止めたのは、被害を受けた一部の顧客データについて、 利用者自身のバックアップから復元するよう案内されたことです。[2]

バックアップは、情報システムの担当者の仕事と考えられがちです。 しかし今回の件は、それが経営の問題でもあることを示しています。 重要なデータが失われたとき、事業を元に戻せるかどうかは、バックアップがあるかどうかで決まるからです。

企業や団体には、データを定期的に複製するだけでなく、 本番のシステムと同時に失われない場所や権限で保存し、実際に復元できることを確かめる備えが必要です。 書き換えや削除を制限したバックアップ、別の環境への退避、復旧訓練は、そのための方法です。 米国NISTも、設備制御などに使うOTのバックアップについて、定期的な作成と試験、復旧訓練を重視しています。[10]

これは、防災の備蓄に似ています。飲料水を備蓄していても、被災した場所と一緒に失われれば使えません。 非常食があっても、取り出せなければ役に立ちません。 データのバックアップも、置き場所や取り戻す方法まで考えておく必要があります。

では、個々の企業がデータを復元できれば、社会全体も元に戻るのでしょうか。

例えば、病院の情報システムが復旧しても、通信や医薬品の物流が止まっていれば、医療を十分に提供できないかもしれません。 物流会社のシステムが復旧しても、燃料や決済が滞っていれば、商品を届けられないかもしれません。

だとすれば、備えるべき「バックアップ」は、データだけではありません。

電力が止まったときの独立した電源。通信が途絶えたときの別経路。物流が滞ったときの代替の供給網。 医療機関が単独では機能を維持できないときの、地域を越えた支援体制。 こうした社会機能そのものの代替手段まで考える必要があります。

しかも、代わりを用意したつもりでも、同じクラウド、同じ電源、同じ通信網に依存していれば、一緒に停止するおそれがあります。 複数の仕組みを持つだけでは不十分で、 何に依存しているかを把握し、共通の原因で同時に失われないようにすることが大切です。

この視点を「バックアップ防災」と呼びたいと思います。

それは、個別のシステムの予備を増やすというだけではありません。 社会を支える重要な機能が一部失われても、別の手段で最低限の生活と社会活動を維持し、 段階的に回復できるようにしておくことです。

そして、これは一つの企業や組織だけでは完結しません。 公共機関や、電力・通信・物流・医療などのインフラを担う事業者が、互いの依存関係を確認し、 何を優先して守り、どの順序で復旧するのかを考えておく。 複数の機能が同時に停止する状況を想定して、実際に訓練する。 そうした社会全体のバックアップを設計することが、新しい課題になるのではないでしょうか。

8.危機の規模に見合った備えを考える

バックアップ防災は、誰か一人が担えるものではありません。 社会のそれぞれの立場に、果たすべき役割があります。

公共機関と重要インフラ事業者には、生活を支える基盤の依存関係を把握し、 障害の連鎖を抑え、広域的な支援と復旧を準備する役割があります。 日本でも2026年10月1日、重要インフラのサイバーセキュリティ対策に関する統一基準が施行されました。[11]

企業や団体には、重要データのバックアップに加え、外部サービスや取引先への依存関係を洗い出し、 代替手段と復旧の優先順位を確かめることが求められます。

私たち一人ひとりにできることは、特別なものではありません。 地震や台風への備えが、そのままサイバー攻撃への備えになります。 電気や通信、物流が止まれば、原因が何であれ、家庭で起きることは同じだからです。

内閣府は食料や飲料水などについて、最低3日分、できれば1週間分程度の備蓄を勧めています。 停電に備えた照明や電源、常備薬、現金、家族との連絡方法を確認しておくことも役立ちます。[12]

これは、個人だけで社会を守ろうという話ではありません。 多くの家庭が一時的な供給停止に耐えられれば、限られた支援を、より切迫した人に振り向ける余地が生まれます。

備えは同じでも、サイバー攻撃からの復旧には、自然災害とは異なる難しさがあります。

一つは、設備が無事でも動かせないことです。 自然災害では物理的な損傷が、サイバー攻撃ではデータや制御の信頼性が、それぞれ復旧の制約になります。 設備が無事でも、安全性を確かめるまで再稼働できないことがあるのです。

もう一つは、被害の全体が見えにくいことです。何が止まり、いつ戻るのか分からない。 そうしたときほど、信頼できる情報の共有が欠かせません。

私たちは、AIとデジタル技術がもたらす豊かさを享受しています。 同時に、その文明の基盤が失われたとき、社会生活そのものが揺らぐ可能性も引き受けているのだと思います。

この先、サイバー攻撃がどこまで拡大するかは分かりません。 それでも、今回のような事件を一社だけの事故として片づけるのではなく、 社会全体が何に依存し、何を失うと生活が成り立たなくなるのか。そして、そのときに代わりとなる仕組みを持っているのかを考える契機にはできます。

この「新しい危機」は、単なる新種のサイバー犯罪ではありません。
デジタル文明の基盤そのものが脅かされる危機です。
その危機の規模を直視することから、備えを考え始める。

新しい文明の時代を安心して生きるために、まず必要なのは、 その文明が抱える危機から目をそらさないことではないでしょうか。

2026-09-23 13:31:00

AIエージェントの出発点は、人間が書いた「テキスト」だ

目的と役割を記した指示文、複数のAIの仕事、電力に支えられたサーバーを描いたイラスト

AIエージェントの出発点は、人間が書いた「テキスト」だ

――目的と役割だけでなく、「いつ止まるか」まで決める

「AIエージェントが自律的に動く」と聞くと、 人間から離れた何かが、自分の意思で活動しているように感じます。

しかし、私がつくったエージェントの実態は、 人間が目的と役割を記したテキストです。 そのテキストをAIモデルに渡すところから、仕事が始まります。

1.「あなたは何者か」を、人間が書く

たとえば「この文章を読んで、読者が分からなくなる箇所を挙げてください」と書けば、 AIに読者の役割を与えられます。

「確定した設定と照合し、矛盾した箇所と根拠を示してください」と書けば、 今度は整合性を確認する役割になります。

モデルそのものが、別の生き物に変わるわけではありません。 人間が目的と役割をテキストで定め、AIモデルがそれに沿って仕事をする。 私には、これがエージェントを理解する入口になりました。

一つの仕事にも、いくつもの役割があります。 書く人、調べる人、読む人、矛盾を確かめる人。 それぞれの結果をつなげると、一つの大きな仕事を進められます。

ただし、エージェントの全体がテキストだけでできているわけではありません。 指示を受けるAIモデルがあり、資料を読んだりWebを検索したりする手段があり、 結果を受けて次の作業に進む仕組みがあります。 テキストは、その全体の目的と振る舞いを決める出発点です。[1]

2.「いつ止まるか」も、書かなければならない

ここで、役割の説明だけでは足りないことに気づきました。

「問題がなくなるまで直す」と書いたら、どうなるでしょう。 AIが文章を直し、別のAIが評価し、また修正を求める。 新しい問題を見つけるたびに、作業が続くかもしれません。

「必要な情報を集める」だけでも、どこまで集めれば十分なのか分かりません。 動き出した後に毎回人間の指示を待たないのなら、 終わり方も先に決めておく必要があります。

調べる
↓
書く
↓
評価する
↓
また調べて書き直す
↓
どこで終える?

たとえば、指示文にはこう書けます。 「重大な矛盾がなければ終了する」。 「新しい根拠のない指摘は繰り返さない」。 「判断が分かれたら、人間に返す」。

さらに、文章上の約束だけに任せず、実行するプログラムにも 作業回数や利用量の上限、承認が必要な操作、停止方法を設定します。 テキストが進み方を示し、実行の仕組みが上限を守る。 どちらも人間が設計するものです。[1][2]

何をさせるかを書くのと同じくらい、どこで止めるかを書く。

停止条件を書き忘れた瞬間に、AIがひとりで起動し、永久に動くという意味ではありません。 人間が動かした仕組みの中で、次の仕事が何度も呼ばれ、 予想以上に長く続くリスクの話です。

3.スピードを求めるほど、止め方が重要になる

私たちの社会では、早く調べ、早く作り、早く決めることに大きな価値が置かれます。 人が一つずつ確認するより、AIが次のAIへ仕事を渡した方が速く見えます。

ただ、速い仕組みは、目標を取り違えたときも速く進みます。 調査結果に誤りがあれば、それをもとに別のAIが文章を書き、 さらに別のAIが整った文章として評価するかもしれません。 外部のサービスを操作できるなら、誤った判断が現実の行動にもつながります。[3]

「AIの暴走」には、いろいろな意味があります。 現在のエージェントで具体的に考えたいのは、 人間が決めた目標や停止条件が不十分なまま、与えられた範囲で望まない作業を繰り返すこと です。

複数のエージェントをつないだからといって、 AIモデルが自分自身を再訓練し始めるわけではありません。 目の前で起き得る反復の問題と、将来の能力向上への懸念は、分けて考えたいと思います。

4.小説制作で、終わらないループを経験した

私は長編小説を書く中で、執筆、読者視点、会話、情景、設定の整合性、 事業の現実性などの役割をAIに与えました。

ある一話を6つの担当で同時に評価すると、合計で約82.7万トークン。 ファイルの読み込みは131回。 最も遅い担当が終わるまで、約15分かかりました。

評価が84点になり、文章を直す。 次の版ではある評価が上がり、別の評価が下がって、また84点になる。 設定の一文と本文の台詞が衝突したときは、作者が決めない限り、 AIが何度評価しても結論は出ません。するとループが延々と続きます。

第1版から第9版まで、作者の判断と再評価の往復を含めた経過は2日でした。 大げさな意味での「暴走」ではありません。 でも、何を任せ、いつ人間に戻し、どの条件で完成とするかを 決めていなければ、仕事は予想以上に長くなる。 そのことを、自分の現場で経験しました。

5.AIは、物理資源の上で動いている

この経験で、もう一つ当たり前のことを思い出しました。 AIは文章の中だけに存在するわけではありません。

モデルを動かすサーバー、半導体、メモリ、通信、冷却。 そして、それらを稼働させる電力が必要です。 国際エネルギー機関(IEA)も、AIの利用とデータセンターの電力需要を結びつけて分析しています。[4]

トークンは、AIが扱う文章などを数える単位です。 データセンターに蓄えた燃料ではありません。 私の約82.7万トークンという記録から、電力量を直接計算することもできません。

それでも、計算資源と電力がなければ、AIの処理は続きません。 自律的に見える仕事も、物理的な基盤の上で動いています。

だからといって「電力を止めればよい」で済むわけでもありません。 電力を断てば、AIの処理はそこで止まります。しかし、それまでに評価を繰り返して使った時間や電力は戻りません。私の小説制作でも、どこで人間が判断するかを決めていなかったために、評価と修正が続きました。だから、AIを動かし始める前に「どこまで任せるか」「いつ人間に戻すか」を決めておく必要があります。

6.「何をさせるか」と「どこで止めるか」

エージェントの出発点は、人間が書いたテキストです。 そこに目的と役割を書く。 そのテキストが、AIモデル、道具、計算資源と結びついて、仕事として動き出します。

私は今、エージェントへの指示を考えるとき、 「何をしてほしいか」と一緒に、 「どこまで任せるか」「何を人間に返すか」「いつ終えるか」を考えるようになりました。

AIを速く動かすためのテキストに、止まるための条件も書く。
その条件を、実際に動かす仕組みでも守る。

目的を書くのも、止め方を決めるのも、人間です。 AIエージェントを使うとき、私たちの手元に残しておきたい設計は、 そこにあると思います。

参考資料

  1. OpenAI, OpenAI Agents SDK/Running agents(指示文、道具、反復処理、実行上限)
  2. Anthropic, Building Effective AI Agents(停止条件と人間の判断を含む設計)
  3. Anthropic, Trustworthy agents in practice(権限と人間による制御)
  4. IEA, Energy and AI(データセンターの電力需要)

※制作時の数値は筆者の実行記録によります。トークン数は6つの評価担当の合計であり、 消費電力量や同時実行の所要時間を示す数値ではありません。

2026-09-22 15:53:00

千代田区の土砂災害警戒区域を、AIエージェントと2往復でつくった話

――AIエージェントと、地図9枚を配れる資料に変えるまで

昨日、区内の土砂災害警戒区域を伝える資料を、AIエージェントと一緒につくりました。 「重ねるハザードマップ」からキャプチャした地図画像9枚を渡してから、 配布できる形に整うまで、思っていたよりずっとスムーズに進みました。

災害対応の時、AIがWeb等の制作でとても役に立った記録として、その過程を残しておきます。

つくったもの

区内9か所の地図を、配布できる14枚の資料に
  1. 制度の説明(警戒区域と特別警戒区域の違い)
  2. 9エリアの一覧と、各ページへのジャンプリンク
  3. エリアごとの地図とGoogleマップへのリンク
  4. 出典の明記
  5. 大雨時の心構え

渡したのは、区内9か所の地図画像だけでした。

AIに任せたこと、自分で決めたこと

最初に渡したのは、地図画像と「出典を明記してPowerPointにしたい」という一文だけでした。 そこから先を、どこまでAIに任せ、どこから自分で決めたのかを分けてみます。

AIに任せたこと 自分で決めたこと
  • 資料全体の構成(表紙→制度説明→目次→エリア別ページ→備え→出典)
  • 配色・レイアウトなどのデザイン
  • 出典の正確な書き方(国土交通省・国土地理院の記載ルールを調べて反映)
  • 各エリアの場所を特定し、Googleマップへのリンクを個別に用意すること
  • タイトルの言葉づかい
  • 最終ページに何を載せるか(問い合わせ先ではなく区のホームページ案内にする)
  • 制作主体をDSC名義にすること
  • 特定のページだけリンク先を大学名に変えること
AIは選択肢を形にしてくれます。でも、何を選ぶかは人の仕事だと、あらためて感じました。

進め方

地図9枚と依頼を渡す
↓
初稿が返ってくる
↓
気になった点をまとめて伝える
↓
反映を確認する
↓
1か所だけ指定し直す

依頼から配布できる形になるまで、往復はわずか2回でした。 細かい指示を一度にまとめて出したのが、よかったのかもしれません。

感じたこと

一番助かったのは、出典表記のルールまでAIが自律的に調べて正しく反映してくれたことでした。 地図や統計を扱う資料は、出典の書き方ひとつで信頼性が変わります。 そこを都度自分で確認せずに済んだのは、時間に追われる中で災害対応をまとめる際に想像していた以上に助かりました。

後から気づいた修正点(制作主体の変更やリンク追加)は、当然ながら最初の依頼には書いていませんでした。 任せる時点ですべてを見通して指示を出す必要はなく、出てきたものを見てから直す―― という進め方でも十分にスムーズだった、というのが今回の実感です。

配布資料

今回作成した資料は、こちらからご覧いただけます。

pdf 千代田区土砂災害警戒区域 (6.81MB)

1 2 3 4 5 6 7 8 9 10 ...