• 吉岡 斉、名和 小太郎, 2015: 技術システムの神話と現実 — 原子力から情報技術まで。みすず書房, 235 pp. ISBN 978-4-622-07915-6.

2015年5月の新刊。吉岡氏は科学技術史が専門でとくに原子力技術に関する著作があり、この読書ブログでも複数の本にふれた。名和氏は特許や著作権などの知的財産権の問題を技術者の観点から論じた著作が多数あり、どれもおもしろいのだが、このブログでふれたのは1冊だけだった。この2人の共著というのはとても興味深く思って、すぐに読むことにした。読書メモを公開するのはもう一度読みかえしてからにしようと思ったら、年を越してしまった。

本書は大きく5部にわかれていて、各部が2章からなる。第1部から第4部までは、両氏がそれぞれ1つずつ課題を出して対談したものだ。第5部には両氏それぞれが書きおろした文章がある。

第1章「核施設の過酷事故 — 巨大人工物の制御」。福島第一原子力発電所の事故をふまえた議論だ。

「過酷事故」は英語のsevere accidentに対応することばだ。日本の行政用語にはこれはなく、設置前の審査のための用語として「重大事故」と「仮想事故」があったが、実際に起こることをほとんど想定していなかった。

事故が起きた場合の施設外の防災(避難など)については、JCO事故のあと対策がたてられたものの、想定された規模がスリーマイル島事故くらいまでであり、福島第一の事故は想定外だった。建物がもっとひどくこわれたり、プールの水が蒸発してしまったら、人による制御が不可能になって、もっと広域に危険がおよぶこともありえた。

東京電力では、現場と本社の間の報告の流れが機能していなかった。官邸から首相補佐官がのりこんで統合本部ができてやっと機能しはじめた。(このときまでの菅総理の態度については、他の人からは強い批判もあるが、吉岡氏はそのときの条件のもとでは正当だったと見ているようだ。)

アメリカ合衆国の原子力関係の規制は、軍のMilspecにならったもので、ともかく詳しく文書化する。それを、その件に責任をもつ人に報告することが決められており、責任をもつ人が判断するのだ。ISO 9000は第三者機関がかかわるところが違うが同じ発想を含んでいる。日本では、一方で、文書ができたとしてもだれも判断しないこと、他方で、現場に判断をまかせるだけで文書をつくらないことが起こりがちだ。このあたりの話、両人が別の角度から見た話が対応してくるので読者としてももっともだと思えてくる。ただし、紙でなくディジタル化するにしても、文書の量が多くなりすぎれば読まれないものがふえるだけで安全には貢献しないと思う。記録することの意味を考えなおす必要があるのかもしれない。あるいは、読みきれないほどの文書が必要な設備をつくってはいけないのかもしれない。

地震予知について、吉岡氏は、研究者が、研究すれば地震が確実に予知できるようになると本気で思っていないにもかかわらず、予知できるという虚構にもとづいて予算をとっている、という。名和氏は、決定論的予知は不可能だと思いながら、確率論的予知には期待しているようだ。わたしは地震予知研究を直接推進している役所の考えは名和氏に近いと思うのだが、それに予算をつける上位の官庁は虚構を捨てていないのかもしれない。確率論的なリスクの予測にもとづいて意思決定に進む、というふうに考えを変えていくべきなのだと思う。

第2章「コンピュータ西暦2000年問題 — 遍在する人工物の管理」。2000年を前にして、大きな危険が心配された。結果としてたいしたトラブルはなかった。対策の成功なのか、もともと重大でなかったのか、わからない。問題がありえたのは、(1) 「mission-critical」なところ (他の多くの業務とreal-timeで連動するところ)、(2) 中小企業のオフィスコンピュータ、(3) 機器組みこみソフトウェアだ。とくに(3)は、実際に何が起きたかわからない。

第3章「SPEEDI — 公共システムの可視化」。SPEEDIは、原子力施設付近の放射線量を測定するERSSというシステムと連動するように作られていたが、福島第一の事故ではERSSが使えなかった。吉岡氏はそれでも仮の放出量を与えた計算は有用だったと見る(吉岡氏がメンバーになっていた政府事故調査委員会の報告もそのようになっている。他方、国会事故調査委員会はこの状況では役にたたなかったとする)。アメリカにはこのようなものはなく、航空機で実測して汚染を把握することにしている。福島事故後の日本政府は、アメリカ軍による航空機実測についても、地上実測についても、公開性が不充分だった。そして、いま、SPEEDI廃止の方向が示されている。吉岡氏は、政府は情報を出さずに国民を統制したいのだ、と見る。わたしはこのような日本政府の組織的意志があると見るのは多少陰謀論に行きすぎと思う。役所が情報を出したがらないのは、いったん出したあと訂正することを情報を出さないことよりも大きな失策と考える文化があるからではないかと思う。

文科省はSPEEDIをつくったが、災害時にそれを運用できる体制をつくらなかった。安全委員会におしつけたが、そちらも人不足で対応できなかった。吉岡氏は、文科省にとって、精巧なシステムを作ること自体が目的になっていた、と見る。

しかし吉岡氏は、SPEEDIは運用されれば防災のために有効だと考えていて、 そのプログラムの情報を公開して多くの人が簡易版SPEEDIのようなものをもつのがよいと考えている。わたしは、この議論はSPEEDIという文科省が構築した概念にこだわりすぎのような気がする。SPEEDIに期待された機能を分割して、どれを実現したいのか考えるべきだろう[別ブログ2015-04-21記事]。仮の放出量を与えて風で流すだけならば、既存の気象モデルを動かせばよく、教員1人だけの大学の研究室でもできるだろう。災害時にも確実に動作させようとすればそれではすまず、人についても機械についても特別な予算措置が必要だが。

関連して名和氏から気候モデルの話題が出ている。第8章にまた出てくるが、ここでまとめて論じる。吉岡氏は、気候予測をあまり信頼していないと言う。名和氏は、物理法則に従う部分の予測は、計算能力の限界を避ける策のよしあしはあるが、大きな方向はよいのではないか、しかし経済・社会のモデルは信頼しない、と言う。また、両氏は、気候モデルのプログラムを公開するべきだという。イギリスのエネルギー・気候変動省が「2050 Pathway Calculator」を公開したことをほめている。しかし、Pathway Calculatorは気候モデルの計算結果を使って質問に答えるわりあい簡単なプログラムで、気候モデルは複雑なプログラムだ。わたしは、SPEEDIの場合と同様、気候予測とその結果の発表に期待される機能を分割して、それぞれの部分をだれができるようにしたいのかを考える必要があると思う。また、計算機プログラムの多くは、専門外の人が読んでもわかるようなドキュメントがつけられておらず、専門家向けのドキュメントを専門外の人が読むと誤解を招きやすいと思う。もし政策で公開すると決めるならば、部外者向けドキュメントをつける費用をまかなうしくみも合わせてつくる必要があると思う。

事故後の行政改革で原子力規制委員会ができたが、設備が基準に合っているかを検査するだけだ。原子力防災の体制は作られていない。アメリカのFEMA (ただしHomeland Security傘下になる前の)を参考にするべきだ、という話もある。

第4章「グーグル — 私的システムのつくる社会規範」。グーグル社による、ユーザーの個人情報の収集や人の姿を含む街路の画像公開は、プライバシー侵害のはずだが、人々は認めてしまうことが多い。これには、「defaultだから」(取得されることを拒否はできるがそれには手続きが必要になっている)ということと、グーグルの検索にかからなくなることを自分の存在を否定されるように感じておそれるということがあるのだろう、と、名和氏はいう。

吉岡氏は、最近の日本では、一方で個人情報保護がきびしくなりすぎて、公共に役にたつと思われる場合にも使えない不便があり、他方で、情報の廃棄は罰せられないので、役所の情報が残らない、という問題を指摘する。また、政府事故調査委員会のヒアリングでは、defaultを非公開としてしまったために、公開するためにいちいち交渉が必要になってしまったそうだ。

章末に、名和氏による、さまざまな情報のうちで個人情報を位置づけるための表がある。横軸が「制度的な束縛」で「禁止」「私有」「共有」「公有」に分けられ、縦軸が「物理的な存在様式」で「公開」「秘匿」となっている。

第5章「放射性物質の隔離管理 — 未来世代への負債」。核廃棄物(放射性廃棄物)の扱いとして、「処分」と「隔離管理」を区別する。処分は、手を離してしまうことだ。吉岡氏によれば「大方の人々」はそれはできないと考えるようになったが、電力会社はしたがっている。

処分場からのもれは危険ではあるが、原発過酷事故よりはましだろう、と吉岡氏は考えている。しかし、処分場は発電所よりも嫌われている。吉岡氏の想定しているのは隔離管理施設だが、それをどこかに置かなければならない。「電力消費地に置け」という人もいるが、吉岡氏はその理屈に必ずしも賛成しない。

学術会議の検討委員会の報告は、(1)暫定保管(慣用の用語では「中間貯蔵」)、(2)総量管理、(3)多段階意思決定・負担の公平性という論点を含んでいるが、吉岡氏によれば、大筋はあたりまえのことであり、詳しい内容は同床異夢のところがある。

吉岡氏は、技術による解決は無理だろうと見る。消滅処理技術ができる可能性はあるものの、再処理工程を前提とするので、核兵器物質拡散防止の制約がある。

名和氏は、政府・事業者の判断の背後に、未来には技術が進歩しているという信念があるが、自分はそれに依存することは不安だという。

また名和氏は、どんなごみがありどんな管理が必要なのかというデータを将来の世代に伝達・継承することが重要だという。

吉岡氏は、処分場の管理主体とされるNUMOは、今は電気料金から資金がまかなわれているものの、将来の世代にわたって維持されるのかあやういことを指摘する。

第6章 「知的財産権 — アンチコモンズの悲劇」。知的財産のうちでも、特許権は、情報内容に与えられ、手続きが必要だ。著作権は、情報形式に与えられ、無方式主義だ。著作権のほうがとくに、ほっておけばだれでも使えるものに、人工的に制限をつける制度になっている。

著作権の無方式主義では、著作権者がわからなくなったり応答できなくなってしまった出版物(いわゆる「孤児出版物」)をだれも使えないという、いわば「アンチコモンズの悲劇」が生じる。名和氏は、著作権制度は崩壊しつつあるとみる。企業秘密や国家機密には知的財産権とはまた別の問題がある。

第7章 「再生可能エネルギー — インフラに対する競争政策」。再生可能エネルギーは、1970年代に、石油危機に対応するために技術開発が推進されたのだが、その実績は小さく、吉岡氏は誇大宣伝を批判する発言をすることが多かった。1990年代以降、温暖化に対応するためにふたたび推進された開発は成果をあげている。しかし、実力の過大評価はよくない。たとえば、浮体式風力発電が採算が取れるかは疑問だ。

中小規模の再生可能エネルギーを発生源付近で消費するのはよい。広域の電力の自由化が、間欠的な再生可能エネルギーの比率がふえるのと並行して進んでいるが、安定供給やそのための設備投資にだれも責任をとらない心配がある。また、「スマートグリッド」はプライバシー問題もある。

第8章「自動機械 — インフラの人工知能化」。1980年代に、機械化が失業をもたらすと言われたが、それほどひどいことは起きなかった。しかし、生産者と消費者の区別がなくなること(トフラーのいうプロシューマー化)はゆっくりと進行しているようで、近ごろ出版社がジリ貧なのはそのあらわれだろう、という話になっている。

今、人工知能がもたらす問題として、名和氏は次のものを指摘する。(1) 無人走行車(・飛行機)について、 事故の責任はだれがとるのか。(2) 金融工学による自動取引が高頻度になって取引所のシステム維持が困難になっている。(3) 文章自動生成。実用文にはよいこともあるが、学術論文として通用しているもののなかに無意味なものがふえていくおそれがある。

吉岡氏は、定型作業は自動化できるが、事故現場の作業や、介護など、定型化できないものは自動化もむずかしいことを指摘する。

1980年代の「第五世代コンピュータ」プロジェクトは失敗と言われるが、今ごろになってそれと同様な方向で実用技術ができているものもある。それは、コンピュータハードウェアと、ヒューリスティックソフトウェアが進歩したからだろう、と名和氏は言う。

第9章 「新技術をめぐる誇大妄想と高速増殖炉開発の未来」(吉岡氏)。主題が2つあるのでわかりにくくなっているが、わたしは「誇大妄想」のほうを主にして高速増殖炉はそのひとつの事例として読んだ。

大きな予算を必要とする技術開発は、実際は成功するかどうかの不確かさも大きいはずなのだが、技術者自身も、予算をつける役所の側も、必ず成功して社会に幸福や富をもたらすという信念にとらわれてしまいがちだ。この現象は hype といわれる。たとえばJoe Romm (2004, 日本語版2005)の本はエネルギー媒体としての水素に関するhypeを論じている。(本書での参照は「石油は水素に代われるか」となっているが「水素は石油に…」だ。)

さらに、開発される技術の経路として、高速増殖炉の場合はナトリウム冷却型、核融合の場合はトカマク型だけが視野にはいるようになってしまったのも、このような信念にとらわれたことの弊害といえるだろう。

吉岡氏はさらに、1970年代からどちらかといえば反体制的な人の間に広がった、再生可能エネルギーやパソコンなどの小規模・分散型技術に対するhypeの問題も指摘する。権威主義的でない社会をつくるには小規模・分散型技術が必要だというのは正しいかもしれないが、具体的に提案された小規模・分散技術がその方向に役だつことは確かではないのだ。

第10章「信頼すなわち相互監視 — 情報セキュリティをめぐって」(名和氏)。この章は、たくさんの論点をつめこんでいて、読者として著者の議論についていくことがむずかしい。印象に残った論点をいくつか紹介する。

名和氏は、自分は法律の専門家ではないが、法律は知らなくても適用されるので、無関心ですませるわけにはいかない、と考えている。

工業製品としてみると、ソフトウェアは奇妙なものだ。複雑である。しかし、トップがすべてを管理しているわけではない。そして量産される。

名和氏は1970年代に、国(通産省)から奨励されて開発したコンピュータネットワークを、国(郵政省)から(電電公社の承認を得ていたにもかかわらず)違法だから止めろと言われた。その点に限ってはその後に法律が変わったけれども、コンピュータネットワークのもつコンピュータシステムと通信ネットワークの二面性は今も問題である。また、どちらの面でも、使いやすさとセキュリティが対立する。

情報システムは、セキュリティが利用者の自己責任となるという文化のもとで推進されている。他方、たとえば原子炉の安全については、閉じた利害関係者のみで管理すべしという文化がある(この場合「利用者」にあたるのがだれかよくわからないのだが、電力消費者だろうか?)。しかし原子炉の制御にもコンピュータシステムが使われている。それは管理しきれているか?

名和氏は「技術には『進歩』『自律性・没価値性』『両用性』(利便にも違法行為にも使える)という『禁忌』あるいは『呪文』がある」と言う。「進歩」は「なんでも実現可能」とも言いかえられている。「有限性」「成長の限界」を見のがすことでもある。名和氏はそういう信念を批判する。それは吉岡氏がhypeを批判するのと基本的に同じことだろう。ただしわたしは、「進歩」と「なんでも実現可能」とは違うことを強調したい。技術には無限の可能性があると言ってもよいと思うが、それは万能だということではない。いわば整数の数は無限だが整数で連続空間を覆うことはできないようなものではないか?

技術の発達は今後も続くだろう。社会は、技術によっても法律によってもそれを制御しきれない。しかし、人はだれかを信頼しなければ生きていけない。そこで、名和氏の結論を単純化して言えば、「相互監視可能な集団内の人々を信頼する」ということになる。

折り返しのあとに詳しい目次をつける。ただし対談には章を細分した見出しはないので、詳しいのは最後の2つの章だけだ。

目次
はじめに
I. 人工物による巨大災害
第1章 核施設の過酷事故 — 巨大人工物の制御 /吉岡
第2章 コンピュータ西暦2000年問題 — 遍在する人工物の管理 /名和
II. 情報システムの落とし穴
第3章 SPEEDI — 公共システムの可視化 /吉岡
第4章 グーグル — 私的システムのつくる社会規範 /名和
III. 守れないものを守る
第5章 放射性物質の隔離管理 — 未来世代への負債 /吉岡
第6章 知的財産権 — アンチコモンズの悲劇 /名和
IV. 次世代技術の実装可能性
第7章 再生可能エネルギー — インフラに対する競争政策 /吉岡
第8章 自動機械 — インフラの人工知能化 /名和
V. 技術の迷宮、技術者の迷宮
第9章 新技術をめぐる誇大妄想と高速増殖炉開発の未来 /吉岡
– 1. テクノトピア立国論
– 2. モデルケースとしての核融合研究
– 3. 「自主的な核融合開発は国の存亡をかけた課題」
– 4. 小規模・分散型技術における「ハイプ」
– 5. 高速増殖炉もんじゅ事故
– 6. 高速増殖炉の技術的特性
– 7. もんじゅ事故に至るまでの日本の高速増殖炉開発
– 8. もんじゅ運転再開へのいばらの道
– 9. 福島原発事故後の泥沼状態
– 10. 実用化ロードマップの再消滅
– 11. 高速増殖炉開発難航の背景
– 12. 高速増殖炉開発の行方
第10章 信頼すなわち相互監視 — 情報セキュリティをめぐって /名和
– 1. はじめに: 法は不知を許さず?
– 2. 情報の奇妙さ
– – 2.1 レイパーソンの理解
– – 2.2 情報システムの扱いにくさ
– – – 2.2.1 ソフトウェアの奇妙さ
– – – 2.2.2 ソフトウェア工学: 傍観者の理解
– 3. コンピュータ・ネットワークの病理
– – 3.1 二つのサブシステム: 水と油
– – 3.2 コンピュータネットワーク: 使いやすさ、すなわち脆弱化
– – 3.3 キーワード
– – – 3.3.1 統制の限界 [span of control]
– – – 3.3.2 ベスト・エフォート
– – 3.4 グーグル化
– 4. 情報セキュリティ
– – 4.1 安全文化 対 情報セキュリティ文化
– – 4.2 システムの隔離
– 5. 技術システム 対 法律システム
– – 5.1 法律による世界解釈
– – 5.2 技術および法律の社会的位置
– – – 5.2.1 禁忌あるいは呪文
– – – 5.2.2 変化への対応
– – 5.3 専門家 対 レイパーソン
– 6. 自画像的な技術者像
– – 6.1 ブレイクスルーという衝動
– – 6.2 丸投げ、あるいは迂回
– 7. 一応の結論: 相互監視へ
– – 7.1 技術の部分最適化
– – 7.2 法律の部分最適化
– – 7.3 信頼の部分最適化
あとがき /吉岡
あとがき /名和