我々を殺すのはAIではなく「何もしないこと」、シリコンバレーは災害やパンデミックといった現実の問題を解決する努力をすべきだ

今回は「我々を殺すのはAIではなく「何もしないこと」、シリコンバレーは災害やパンデミックといった現実の問題を解決する努力をすべきだ」についてご紹介します。

関連ワード （Global Support and Development、コラム、新型コロナウイルス、自然災害等） についても参考にしながら、ぜひ本記事について議論していってくださいね。

本記事は、TechCrunch様で掲載されている内容を参考にしておりますので、より詳しく内容を知りたい方は、ページ下の元記事リンクより参照ください。

この1年間、私たちの多くは存亡の危機について考えながら過ごしてきた。非常食セットから核バンカーまで、サバイバル用品の売り上げは増加しており、Twitterで1日中ドゥームスクローリング（ネットで悲観的な情報を読み続けること）をしていると、少なくとも文明崩壊の可能性が話題にならない週はないように感じる。

しかし、テック業界に長くいると、存亡の危機に関する「現実の問題」と「憶測に基づくシナリオ」との間に驚くほどのずれがあることに気づく。

シリコンバレーでは「実は今、偏屈な生物学博士が小さな実験室にこもって、個人あるいは全人類を暗殺できる特別な病原菌を作っているのだ」というようなシナリオが話のネタとしておもしろおかしく話題にのぼっている（ゲノム編集技術の略称「CRISPR」を使って話せば、よりそれっぽく聞こえる）。他にも、コロナガスの噴出や電磁爆弾のようなものが頻繁に発生して、すべての電力供給を停止させる可能性があるというシナリオや、世界中のすべてのCPUが同じコード行に対して脆弱であるという（おそらくMeltdownやSpectreから発想を得た）ある種のハッキングシナリオもよく耳にする。

しかし、ここ1年を振り返ってみると、私たちには、問題を認知する際に偏った思い込みをしてしまう傾向があることに気づく。つまり、憶測にすぎないリスクについては考え過ぎるのに、文明的な生活を脅かしかねないありふれたリスクについてはあまり考えていないのだ。

確かに、先ほどのようなシナリオはおもしろく想像力に富んでいて「仕事は何をしているの？」なんていう話を続けるよりもずっとZoom飲み会を盛り上げてくれる。

しかし、ここ1年を振り返ってみると、私たちには、問題を認知する際に偏った思い込みをしてしまう傾向があることに気づく。つまり、憶測にすぎないリスクについては考え過ぎるのに、文明的な生活を脅かしかねないありふれたリスクについてはあまり考えていないのだ。

新型コロナウイルス感染症は、文字どおり何十年も前から何らかのかたちで予測されてきた、あまりにも明白なパンデミックの例である。しかし「想定済み」だったはずの災害に遭遇した例は他にもある。2021年2月、テキサス州のエネルギー供給網の多くが故障したために数日間にわたって停電し、数百万人の人々が、それまで地元で経験したことのない寒さに耐えなければならなかった。電磁爆弾が落とされたわけではないのに、これだけの被害が生じたのだ。またカリフォルニアの山火事シーズンが拡大し、人命が失われ、大規模な停電や何十億ドル（何千億円）もの損害が発生した。空を象徴的なオレンジ色に染めたのはハリウッドの特殊効果ではない。2021年1月には「ソフトウェアの問題」により東海岸のあちこちでインターネットが使えなくなったし、クリスマス休暇中にはナッシュビルで単独犯による自爆テロのせいで通信施設が破壊され、都市部の通信回線の大部分がダウンした。

関連記事：悪天候や停電が示す米国の電力網最大の問題は再生可能エネルギーではなくインフラそのものにある

ここで問題の認知にずれが生じる。私たちはすでに文明的な生活を脅かされたことがあるのだ。ただ、これまではその期間や範囲が限定されていた。2月はテキサス州、2020年はカリフォルニア州で大規模な停電が発生したが、全土で停電したことはない。同じく、東海岸とナッシュビルでインターネットが使えなくなったが、時間差があったし、全土で同時にインターネットが使えなくなったことはない。パンデミックが発生し、ウイルスの拡散を抑えるために世界の大部分で学校や店舗を定期的に閉鎖しなければならなくなったが、文明的な生活が消滅してしまったわけではない。人口の10％がNetflix（ネットフリックス）を使えている限り、このパンデミックでさえも大した災害ではないと思えるくらいだ。

汎用人工知能や、AIの能力が人類を超えるというシンギュラリティ（特異点）の概念、火星への避難について話している人たちがいるが、目の前の現実では、何千カ所ものダムに信じられないほど大きな負担がかかっており、これらのダムのいくつかが決壊すれば、今後数年間で何百万人もの人々が命を落とす可能性がある。これは仮定の話ではない。ダムの構造物が耐用年数に達し、次第に崩れやすくなると、ダムは予測に違わず決壊する。

私たちはなぜか、このような身近に迫る深刻な事態をリスクとして認識することを避けるようになってしまった。数年前は極度の非難を受けていたAWSの障害が、今ではZoom会議から私たちを解放してくれるものになった。停電は新たな日常にすぎない。パンデミックについては、私たちすべてが期待している回復を変異ウイルスが脅かし始めているとしても、現段階でわざわざマスクをする意味はないと考える人もいる。ある同僚が私に言ったように、電池式のラジオを買うべきだ。すぐに必要になるだろう。インターネット通信が突然使えなくなる可能性を想定すべきである。

シリコンバレーを起業家精神あふれる場所にしているソリューショニズムは、存亡にかかわる非常に日常的な脅威を解決するという方向に向かうことはないようだ。送電網の故障は防ぐことができる。インターネットは、障害を迂回し、わずか数カ所の中央データセンターや電話局のみを拠点することはないように設計されているはずだ。これにより不正なパッチや妨害者が世界のGDPが低下させることはない。医療システムはアウトブレークを制御することができる。私たちはどんな戦略を取るべきかを知っている。ただその戦略を実行できさえすればいいはずだ。

回復力と計画性には、シリコンバレーが得意とする分析力が役に立つ。それなのに、シリコンバレーにはその回復力と計画性が欠如している。そして、それ以上にいら立たしいのは、このような大惨事にあっても行動をまったく起こさないことだ。この1年でわかったことは、政府も会社も一般市民もすべてが完全に無気力状態にあり、災害が起きた場合の備えを明らかにまったくしていないことだ。

私は、人々を病院に案内したり、データを追跡したり、ワクチンを見つけるように人々を指導したり、初期の慌ただしい時期にマスクを探したりする、新型コロナウイルス感染症から生まれたクラウドソーシングのプロジェクトを非難したいわけではない。このようなプロジェクトは、たとえうまくいかなくても重要であり、豊かで新しい市民生活を象徴している。しかし重要なのは、現場での行動の欠如をキーボードで完全に補えると考えないことだ。テック業界では、あらゆる問題を解決するためにウェブアプリを開発することを好むが、Pythonコードだけで対応できる災害などないに等しい。

テックコミュニティで私が見つけた唯一の例外は、Googleの共同創設者であるSergey Brin（セルゲイ・ブリン）氏だ。彼はGlobal Support and Development（GSD）という災害救援チームとともに世界規模の災害対応能力を築くことに時間とリソースを費やしたようだ。Mark Harris（マーク・ハリス）氏は2020年、この取り組みに関して詳細な記事を書いている。

GSDはこの5年間、新型コロナウイルス感染症のパンデミックをはじめ、注目を集めたさまざまな災害が発生した際、ひそかにハイテクシステムを使い、迅速な人道支援を行ってきた。ドローンやスーパーヨットから、巨大な新しい飛行船まで、チームが期待する幅広いハイテクシステムを使えば、支援物資を被災地に簡単に輸送できるようなる。

このような取り組みをもっと増やすべきだ、しかも、今すぐに。

存亡リスクは常にハイテク業界の中心にある。ラジオ放送の「宇宙戦争」、マンハッタン計画から、1960年代のAIや人工頭脳工学、80年代のサイバーパンクや気候パンクなどのあらゆるパンク、そして今日の汎用人工知能やシンギュラリティ（特異点）に至るまで、自分たちが作る技術の進歩が、現代の世界に大きな影響を与える可能性があることを私たちは知っている。

今こそ、現在利用できるツールを使って、クレイジーな憶測に基づく未来ではなく、現在の世界が直面している大混乱と課題に目を向けるときである。私たちの主要な課題のほとんどは、単に解決可能であるだけでなく、時間をかければ事態を大幅に改善できるものである。しかしそのためには、恐怖をあおる憶測に対してばかり危機感を感じるのではなく、ありふれた日常的な問題（でも最終的には確実に私たちを苦しめる予測可能な問題）をリスクとして認知するよう、意識的に努力することが必要だ。

画像クレジット：Allkindza / Getty Images

【原文】

Existential risk has been on many of our minds the past year. Sales of survival goods from food kits to nuclear-proof bunkers are way up, we doomscroll on Twitter all day, and it seems like there isn’t a week that goes by where civilizational collapse isn’t at least a possibility on the agenda.

Yet, if you hang out in tech circles long enough, there remains an astonishing divergence between the realities of existential risk and the speculative nature this subject tends to push us toward.

In Silicon Valley, the fun topics here are scenarios like custom-designed pathogens that assassinate individuals or the entire human population constructed in a small biolab by an irascible bio Ph.D. (throw in CRISPR as an acronym to make it sound interesting). Coronal mass ejections or some sort of electromagnetic bomb comes up frequently, events that could knock out all power as we know it. You’ll also frequently run into some sort of hacking scenario where all the chips in the world are vulnerable to the same line of code (perhaps inspired in the vein of Meltdown or Spectre).

What the last year has shown is that we have a very bad cognitive bias where we think about the speculative dangers far too much and the mundane civilizational dangers far too little.

These scenarios are fun and imaginative, and it’s a great Zoom drinking game in an otherwise “what do you do for a living” conversation.

What the last year has shown, however, is that we have a very bad cognitive bias here where we think about the speculative dangers far too much and the mundane civilizational dangers far too little.

COVID-19 is the too-obvious example, a pandemic that has been predicted in some form or another for literally decades. But it’s hardly the only “boring” disaster that’s befallen us. The failure last month of much of Texas’ energy grid knocked out power for days for millions of people at some of the coldest temperatures experienced locally — no electromagnetic bomb required. California’s wildfire season has expanded, leading to lives lost, wide-scale power outages, billions of dollars in damages and that iconic orange air — no Hollywood special effects required. A “software issue” led to a swath of the East Coast losing the internet in January, while a lone bomber in Nashville knocked out much of the telecommunications in that metropolitan area over the Christmas holidays.

Here, then, is the divergence: we have had forms of civilizational collapse, but so far, they’ve been limited in duration and limited in scope. We didn’t all lose power: just Texas last month and California last year. We didn’t all lose internet: just the East Coast and Nashville at different times. We didn’t lose civilization, we just had a pandemic that has forced much of the world to regularly shut down schools and stores to limit viral spread. It’s almost like a disaster doesn’t count if Netflix still operates for 10% of the population.

So we have folks talking about artificial general intelligence and the singularity and fleeing to Mars, when the immediate reality is that there are thousands of dams under incredible strain where millions of people could perish in the coming years if a number of these fail. Not just fail hypothetically, but fail as predicted when these structures reach the end of their usable lives and become increasingly vulnerable to collapse.

What’s strange is how much we as people have begun to cognitively route around these quotidian catastrophes. AWS outages that used to elicit extreme opprobrium a few years ago are now a snow day from Zoom calls. Power outages are just the new normal. Pandemics — well, why bother wearing a mask at this point anyway, even as variants start to threaten the recovery we all expect? As one colleague put it me, just buy a battery-powered radio — you know you’ll need it here soon, as if we should just expect to lose connectivity at any time.

The solutionism that makes Silicon Valley an entrepreneurial spectacle never seems to migrate over to the solvable world of most daily existential threats. Power grid failures are preventable. The internet was supposed to be designed to route around damage, not be based in a couple of central data centers and exchanges where one rogue patch or saboteur brings down the global GDP. Healthcare systems are capable of managing outbreaks — we know the playbook, if only we could execute on one.

Perhaps more frustrating than the lack of resilience and planning, which use precisely the sort of analytical skills that the Valley loves, is the sheer lack of action during these catastrophes. If the last year has shown us anything, it’s the complete lethargy from government to organizations to everyday citizens, all of which are apparently completely unprepared to do anything if disaster strikes.

Now, I don’t want to cast aspersions on the crowdsourced projects that sprung out of COVID-19 to direct people to hospitals, or to track data, or to guide people to finding vaccines today or finding masks in the early, hectic days. These projects are important despite their fumbles, and represent a fresh and flourishing civil society. It’s key though not to assume that keyboard actions can somehow compensate entirely for a lack of action in the field. The tech industry loves to code up a web app to solve all problems, when most disasters really and truly can’t be responded to with Python code.

Within the tech community, the one exception I have been able to find is Google co-founder Sergey Brin, who seems to have put his time and resources behind building out global capacity for disaster response with an organization called Global Support and Development, which Mark Harris described at length in a piece last year. Per his article:

For the past five years, GSD has been quietly using high-tech systems to rapidly deliver humanitarian assistance during high-profile disasters, including the COVID-19 pandemic. These range from drones and super-yachts to a gigantic new airship that the outfit apparently hopes will make it easier to get aid supplies into disaster zones.

We need more of this, and stat.

Existential risk has always been at the heart of the tech industry. From a radio broadcast of “The War of the Worlds” and the Manhattan Project to AI and cybernetics in the 1960s, cyberpunk and climate punk and all the other punks in the 80s, continuing right up to artificial general intelligence and the singularity today, we’ve always known that the technological progress we make could have massive consequences for the world as we know it.

Yet, it’s time to turn our attention away from the crazy and speculative and future, and more toward the chaos and challenges facing our world right now, using tools that we have available to us today. Most of our major challenges aren’t just solvable, they’re eminently solvable if we put the time into them. But that requires us to actively thwart our cognitive bias away from the scary and improbable to the mundane and normal — the boring events that almost certainly will actually kill us in the end.

（文：Danny Crichton、翻訳：Dragonfly）