カテゴリー: 読書

お絵描きAIとフレーム問題

僕の好きなベルクソンやハイデガーの哲学は人工知能批判という文脈で援用されたりするんだけど、最近イラスト関連のトピックにずっと張り付いてるうちに（描いてない）特に勢いのあるお絵描きAIにまんま当てはまる事例があることに気がついた。

今の二次絵で主流になっているNobelAIを含む大元のStable DiffusionというAIモデルは「何を描かせるか」を指示するプロンプト（いわゆる呪文）に加えて、「何を描かせないか」を指定するネガティブプロンプトという2種類の入力があるんだけど、遊び方が熟成されるに連れてだんだんこの後者のネガティブプロンプトが重要なのがわかってきた。

例えばこの人は泳ぐセフィロスを描かせようとすると勝手に女にされたり羽をつけられたりするのでネガティブプロンプトでマイナス指定してる。

他には中国語圏ユーザー作った元素法典ではネガティブプロンプトに膨大なリストを列挙させることで描画がクリアになることが発見された。

【日本語訳】元素法典 巻ノ一 #NovelAI #元素法典｜さいP｜note

自分でも環境作ってちょっとだけやってみたけど確かにネガティブを増やすほど物体同士が溶けてくっつくような現象が減っていく気がする。

で、これで思い出したのが、古典的な人工知能の難問であるフレーム問題。

哲学者ダニエル・デネットが論文[2]で示した例を挙げて説明する。

状況として、洞窟の中にロボットを動かすバッテリーがあり、その上に時限爆弾が仕掛けられている。このままでは爆弾が爆発してバッテリーが破壊され、ロボットはバッテリー交換ができなくなってしまうので、洞窟の中からバッテリーを取り出してこなくてはならない。ロボットは、「洞窟からバッテリーを取り出してくること」を指示された。

人工知能ロボット1号機R1[3]は、うまくプログラムされていたため、洞窟に入って無事にバッテリーを取り出すことができた。しかし、R1はバッテリーの上に爆弾が載っていることには気づいていたが、バッテリーを運ぶと爆弾も一緒に運び出してしまうことに気づかなかったため、洞窟から出た後に爆弾が爆発してしまった。これはR1が、バッテリーを取り出すという目的については理解していたが、それによって副次的に発生する事項（バッテリーを取り出すと爆弾も同時に運んでしまうこと）について理解していなかったのが原因である。

そこで、目的を遂行するにあたって副次的に発生する事項も考慮する人工知能ロボット2号機R1-D1[4]を開発した。しかしR1-D1は、洞窟に入ってバッテリーの前に来たところで動作しなくなり、そのまま時限爆弾が作動して吹っ飛んでしまった。R1-D1は、バッテリーの前で「このバッテリーを動かすと上にのった爆弾は爆発しないかどうか」「バッテリーを動かす前に爆弾を移動させないといけないか」「爆弾を動かそうとすると、天井が落ちてきたりしないか」「爆弾に近づくと壁の色が変わったりしないか」などなど、副次的に発生しうるあらゆる事項を考え始めてしまい、無限に思考し続けてしまったのである。これは、副次的に発生しうる事項というのが無限にあり、それら全てを考慮するには無限の計算時間を必要とするからである。ただ、副次的に発生する事項といっても、「壁の色が変わったりしないか」などというのは、通常、考慮する必要がない。

そこで、目的を遂行するにあたって無関係な事項は考慮しないように改良した人工知能ロボット3号機R2-D1[5]を開発した。しかし今度は、R2-D1は洞窟に入る前に動作しなくなった。R2-D1は洞窟に入る前に、目的と無関係な事項を全て洗い出そうとして、無限に思考し続けてしまったのである。これは、目的と無関係な事項というのも無限にあるため、それら全てを考慮するには無限の計算時間を必要とするからである。事程左様に、人間のように判断することができるロボットR2-D2を作るのは難しい。

フレーム問題 – Wikipedia

簡単に言えば人間は外を歩いているときに「隕石が落ちてくる」みたいな事態を想定しながら行動することはそうそうないけど、AIはその状況で起こりうるありとあらゆる可能性を無限に検討しなければならず、（プログラミングで言えばif文を無限に作らなければならない）その無限というのは文字通り無限なのでロボットはその時点で壊れる（＝ロボットは「思考」ができない）というもの。

これは一昔前は上に引用したような思考実験の1つだったんだけど、お絵描きAIを見ているうちに本当に現実にまんまこれが起こっていることに気がついた。ビックリした。
つまり、学習データに一度入れてしまったものはどんなに小さくても可能性の1つとして考慮しなければならないので、変な異物が紛れ込んだり、ラーメンが食べられなかったり、アニメ調の絵と3DCG調の絵の両方の画風をどっちつかずでミックスして出力してしまったりする。
そしてそこを人間がネガティブプロンプトに指定し、除外の対象にすることで絵が安定してくる。

そして、ここからは多分AI研究じゃなくて哲学や人間学の話になると思うんだけど、これをまた逆向きにフィードバックしてではAIではなに人間の知能とは何なのかを考えることで見えてくるものがある。すなわち、人間の思考は計算機的な情報処理能力が「高い」のでなく、今ここで起こりうる無限の可能性の中から無視することなのだと。

一般的にはある環境の中で、これをさらに突き詰めると主観主義的観念論になってくる。ようするに、無視されている事態の可能性とはただ意識に昇っていないのではなく、「存在」しないのである。

私の言語の限界は、私の世界の限界を意味する。（5.6）

私たちは、考えることのできないことを、考えることはできない。だから私たちは、考えることのできないことを、言うこともできない。（5.61）

ヴィトゲンシュタイン. 論理哲学論考 (光文社古典新訳文庫) . . Kindle 版.

ここでウィトゲンシュタイン大先生が書いている「世界の限界」が「フレーム」に相当する。フッサールとハイデガーの現象学やユクスキュルの環境世界の概念なんかもほぼ同じ。ウニの世界には棘で感覚される信号しか存在しない。

そんな中でマシンパワーのゴリ押しでフレーム問題を文字通り無視して人間に追いつきそうな現代AIはどうなっちゃうんだろうね、というお話でした。


岡田英弘『世界史の誕生』『日本史の誕生』（+『歴史とはなにか』）

何年か前にネットの記事で岡田英弘の名前を見た。
現在の中国共産党のナンバー2（習近平の右腕らしい）王岐山という人が岡田英弘を高く評価しているんだとか。

王岐山イチオシの日本人歴史学者：日経ビジネスオンライン（アーカイブ）

「…去年、岡田英弘の歴史書を読みました。そのあとで、私はこの人物の傾向と立ち位置を理解しました。彼は日本の伝統的な史学に対し懐疑を示し、日本史学界から“蔑視派”と呼ばれています。彼は第三世代（白鳥庫吉、和田清につぐ？）の“掌門人（学派のトップ）”です。モンゴル史、ヨーロッパと中国の間の地域に対するミクロ的な調査が素晴らしく、民族言語学に対しても非常に深い技術と知識をもっており、とくに語根学に長けています。彼は1931年生まれで、91年に発表した本で、史学界で名を成しました。これは彼が初めてマクロな視点で書いた本で、それまではミクロ視点の研究をやっていたのです。私はまずミクロ視点で研究してこそ、ミクロからマクロ視点に昇華できるのだと思います。大量のミクロ研究が基礎にあってまさにマクロ的にできるのです」…

ここで書かれている1991年に発表した本が、今はちくま学芸文庫に入っている『世界史の誕生』。

世界史の誕生─モンゴルの発展と伝統 (ちくま文庫) | 岡田 英弘 |本 | 通販 | Amazon

続きを読む


池田暁史『メンタライゼーションを学ぼう—愛着外傷をのりこえるための臨床アプローチ』

年始のメンタルの不調から精神医学の本を読み始め、心的外傷や境界性パーソナリティ障害へと関心を移してきたわけだけど、この本が1つ到達点になった気がする。今まで読んできた本だとどんなによい本だと思えてもどうしても感覚的に1%のしこりやもやが残っていたのを綺麗に霧消させてくれた感がある。

続きを読む

加藤周一の『日本文学史序説』

9月から今月にかけては何年かに一度の本の虫干しをしていた。
どかどか大量抹殺していると買ったことを忘れた本も出てくるもんであって、その中の1つがこれ。
ちくま学芸文庫にずっと昔から入っていて漠然とすごい本なんだろうなとは思ってたけど実際読み始めると笑っちゃうくらい凄い。

日本文学史と言っても漱石あたりから始まる近現代小説を扱っているのではなく、万葉集と古事記から始まる。そして文学史のタイトル通り作品の成立に影響を与えた当時の歴史的・社会的情況、さらに著者のパーソナリティも想像力豊かに描出されていてすらすらと読めてしまう。
どんな記述でも教科書的な紹介に堕している部分が一切なく、序文で述べられている日本文学における歴史的法則に基づいてはっきりと言い切っている。

それぞれの文学作品が成立した背景・条件も懇切丁寧に論じられているのでもはや文学史の枠を越えている。一種の日本論であり、日本人論であり、日本語論であり、日本思想史であり、日本宗教史でもある。なんだかんだ言っても昭和の文芸批評家は凄かったのがわかる。

今やっと上巻の半分、鎌倉時代まで読み終わったところだけどここまでで既に聖徳太子の十七条憲法に始まり万葉集や古事記と言った古代の歴史的資料に文学批評の眼が向けられるところから開始し、そして空海・最澄の初期仏教、竹取物語のような古代文学、日本霊異記・今昔物語のような民衆のための物語、源氏物語や古今集の平安文学、浄土宗から禅宗までの鎌倉仏教、さらに武士の台頭への貴族側からの応答としての新古今集や鴨長明の隠者文学、そして平家物語と思いつく限りすべてが網羅されていて、そのすべてがきっちり一本の芯が通って解説される。狂気の本。一方で建礼門院右京大夫といった今まで知らなかった著者もいて関心を惹かれる（非常に好きになる気がする）。

僕はもともと植芝理一でアジアや日本の呪術的で神秘的なモチーフに惹かれてこの世界に足を踏み入れて、そのあと西洋哲学から吉本隆明を経由し最近はまた日本的なものにより関心が深いんだけど（京都旅行するといくら勉強してもまだまだ勉強足りないな～と思わされる）、ここまで総合的な本が存在してたとは思わなかった。これはたぶん20代じゃ読めなかったな。ちびちび読み進めてるので今月はこれで終わりそう。


令和はトラウマの時代になる

眞子さまが複雑性PTSDを公表された。
ただ実質的には一般的に「適応障害」と診断される症例に近いんだと思う。「複雑性PTSD」はまだDSMに載っていない。まあいずれにしてもトラウマ（心的外傷）が問題なのは間違いないし、この1件でアダルトチルドレンや発達障害みたいに注目されることになるのかもしれない。どこかで「平成は発達障害の時代だったが、令和はトラウマの時代になるのではないか」という文章を見たのを思い出す。

続きを読む


国書刊行会からスタニスワフ・レム・コレクションの第Ⅱ期が出るらしい

〈スタニスワフ・レム・コレクション〉第Ⅱ期刊行開始！｜特集｜国書刊行会
https://www.kokusho.co.jp/special/2021/08/post-17.html
国書刊行会

レムは哲学的な素養や文学の知識が別格なところがあって、池澤夏樹さんのような文系SFファンに人気が高い。
ご多分に漏れず僕もSFジャンルで好きな作家はヴォネガットかレムくらいしかいない。大学生の頃イーガンとかも読んだけどSF小説ってどれも科学的な考証は多分すごいんだろうなとは思えどストーリーテリングがどれも凡庸にしか思えなくてピンと来なかった。

続きを読む


Don Ihde 『Listening and Voice: Phenomenologies of Sound』

ガルラジの長文を手直しして前逃げたところをきっちり納得いくまで書き直したい（あと本にしたい）という野望があるんだけどこれ以上は何かしら新しい知識がないと進みそうにない。
ドゥルーズをまた読み始めたのもその流れなんだけどドゥルーズのベルクソン経由したシネマの理論はやっぱり微妙に空振る感じがある。
音や声や音楽を現象学の観点から分析してるような研究がほしいんだけど、と思ってちょろっと検索したら簡単に出てきた。ただし未邦訳。

ダン・イーディ『リスニングとヴォイス : 音の現象学』。Kindle買ってGoogle翻訳放り込んだらなんとかなるかな……でも高いな……。

https://www.sunypress.edu/p-4512-listening-and-voice.aspx
https://ci.nii.ac.jp/naid/120006247547

吉沢譲治『血のジレンマ サンデーサイレンスの憂鬱』

サンデーサイレンスの名前を初めて知ったのは2016年。新千歳空港のすぐそばにある社台グループのテーマパーク・ノーザンホースパークに寄ったときだった。
オフシーズンで人通りの少ない園内をふらふら歩き回り、端にあった小さなミュージアムに入った。中では社台グループが生産した数々の名馬が紹介されていた。
その中でステイゴールドやディープインパクトといったどこかしらで聞いた覚えのある名馬と並び、大きく紹介されていた知らない馬の名前が妙に印象に残っていた。サンデーサイレンス。

続きを読む


ポリヴェーガル理論・三木成夫・吉本隆明

https://en.wikipedia.org/wiki/Polyvagal_theory

https://book.asahi.com/jinbun/article/14124022

　トラウマ関連の理論で最も関心を惹かれたのがポリヴェーガル理論だった。
　これは主に自律神経に関する理論で、1990年代にステファン・W・ポージェスによって提唱された。元々精神医学には直結していない？ところで編み出された理論だったけど、発表後にトラウマ専門医に非常に高く評価されたことで普及したという経緯があるよう。

　ヴァン・デア・コークの大著ではトラウマ現象を身体的メカニズムに還元して説明する節でポージェスを引用していて、非常に高い評価を与えている。自律神経は脳と身体器官を繋ぐ重要な役割があり、簡単に噛み砕けば精神的で非実体的なものにも思える「ストレス」が、どのように内臓のような実体的なところにダメージを与えるかにおいて無視できない位置にある。このあたりは熊野さんの新著にも記述がある。特に関心を惹かれるのは免疫系の反応で、調べるとここはかなり一般常識を越えたような働きが見られる。

　一般的な自律神経の理論では交感神経と副交感神経の2つに分かれ、それぞれがアクセルとブレーキの働きを担う。特に重要視されるのは、人間が危機や危険に直面したときアドレナリンを分泌させ体を緊張状態にする交感神経の働きで、「闘争／逃走反応」と呼ばれている。副交感神経はこの逆で、体を弛緩させ、消化などを司っている。
　そもそもなぜ精神医学で自律神経が重要なのかというと、脳のスキャン画像のようなものとは別に「動物の一種、あるいは哺乳類の一種としての人間」としてアプローチするのが大きいよう。哺乳類でも体や器官は同じものがあるので、その類推から種々の反応を説明できる。そもそもこの闘争／逃走反応のような今でも一般的なものとして受け入れられている自律神経の理論は遡るとチャールズ・ダーウィンが最初に唱えたものらしい。

　さて、ポージェスは自律神経の理論を三段階に分類している。ポージェスは特に哺乳類の一種として人間を捉えていて、人間の自律神経をさらに3つの迷走神経に分けて説明している。
　まず人が驚異を感じたとき、その反応の最初の段階は周囲の人々に助けを求める「社会的関与」に向かう。これを司っているのが「腹側迷走神経」で、これは進化の順番では最も新しく、哺乳類のみにみられるものだとされる。ポージェスは腹側迷走神経が人間の社会的な種々の働きを司っているとしている。
　周囲の人々に助けをえられなかったり、誰もいない場合に使われるのが第二段階の「闘争／逃走反応」で、ポリヴェーガル理論でもこれは交感神経によって担われている。ポージェスはこれを神経系の進化において2番目に古いものとしていて、魚から見られるとしている。
　そして、最後に脅威に対応しようがなく、もはや逃れられない場合は、野生動物が仮死状態になるときに使われる「背側迷走神経」によって、「凍結（凍りつき）」反応が起こる。これは進化の順番では最も古く、シーラカンスなど極端に動きの少ない生き物に備わっているそう。

　と、長々と書いてきたけど実は個人的にはやや懐疑的で、ロマンはあるけど実証性は微妙じゃね、とか思ってたりする。海外フォーラムには（機械翻訳で読んだだけだけど）、論文になっているのはほとんどが精神医学領域で、生理学や精神科学ではあんまりないよという指摘もある。

https://www.researchgate.net/post/After-20-years-of-polyvagal-hypotheses-is-there-any-direct-evidence-for-the-first-3-premises-that-form-the-foundation-of-the-polyvagal-conjectures

　ポージェスもあくまで理論というようなことを言っているらしいので、1つの仮説的な説明モデル、くらいに考えといたほうが良さそうは気がする。

　さて、そんなポリヴェーガル理論だけど、僕はこれに非常によく似た理論を知っている。

　解剖学者・三木成夫である。

https://ja.wikipedia.org/wiki/%E4%B8%89%E6%9C%A8%E6%88%90%E5%A4%AB

　中公新書の『胎児の世界』が有名だけど、三木成夫もまたヘッケルの学説などをベースに人間の身体を進化の流れで捉え、心身問題を脳ではなく内蔵や身体によって説明するきわめて独特な理論あるいは思想を作り上げた。
　出版されている本では津田真人『「ポリヴェーガル理論」を読む -からだ・こころ・社会』あたりが三木成夫にも触れているっぽいんだけどちょっとバカ高すぎるしこれ以上深入りする気にもあんまりなれないのでスルー。

　そして、この三木成夫の理論を高く評価している人がいた。吉本隆明である。
　吉本には共同幻想論と並ぶ（ということになっている）大著に『心的現象論』というのがあり、これはタイトルからわかる通り吉本流の心の理論で、フロイトやマルクスや精神科学などをごった煮にしたあまり評価されていないと思われる仕事。僕もほぼわからない。ただ吉本隆明の思考の癖がわかっているとなんとなく全体のモチーフのようなものはわかる。

　そして、晩年の吉本がどういうわけかこの心的現象論の補助線として導入したのが、三木成夫の内臓の働きによって心を説明する理論だった。
　吉本は本当にずっと読んできたけど、これだけは本当によくわからなかった。年取って耄碌したと言ってしまうのは簡単だけど、それにしたって三木成夫の理論の何が吉本さんにとってクリティカルだったのかはずっとピンと来てなかった。

　しかし、トラウマから入ってポリヴェーガル理論に行き着いたことでなんとなくそこが一本の線に繋がった。
　心的現象論は共同幻想論の土台となる自然哲学のような位置づけにあり、人間の心理的メカニズムを説明する。
　そして、吉本隆明が課題としたのが戦争だったからだ。共同幻想論は最初の章で遠野物語を引いて吉本が入眠状態と呼ぶ一種の集団催眠のような現象を扱っている。言ってしまえば日本国民全員が異常な精神状態だった時代。その心理を説明するためには認知科学のようなモデルではなく、精神医学が扱うような。そしてそれには内蔵や神経系のによって説明される、動物としての人間を扱うモデルのほうが説得力があると思われた。
　そもそも吉本隆明がマルクス主義者の唯物論者なのでこういったものにこだわっている節もあるけど、その因果関係も逆なのかもしれない、そんなことを考えてた。


蓑虫屋

古書蒐集といえばマニア趣味の原点みたいなもんだし、日本は古書市場が豊かなので様々な専門ジャンルの古本屋がある。競馬もあった。店名は蓑虫屋（みのむしや）。

https://minomushiya.com/

90年代競馬ブームの頃からハイセイコーの時代、戦前のものや海外の本、いったい誰が作り誰が使うのかもわからない超分厚く超高価な年鑑や資料集まである。たぶん古書市場で日本中から競馬関係の本がこの店に集まっているんだろう。
値付けは全体的に高く、特に競馬というジャンル自体古き良きマニアが多そうなのでレコード収集に近い世界の匂いがする。

当然ウマ娘も認知しているよう。


永遠の時間

ツイッターの「アナリティクス」というメニューを間違ってクリックして開いた。

内容は各時期ごとのツイートごとの数値や月間で最もインプレッションを集めたツイートなどが自動的に記録されていて面白かった。

ずっと遡っているうちに、去年の7月に「アイコンのキャラクターが昔読んでからタイトルを思い出せないキャラクターに似ている、できれば教えてほしい」というリプライが来ていて、冷や汗かきながら返信した（普段はフォロー外リプライ通知切ってる）。届いてればいいけどあんまりアクティブにツイッター使ってる方じゃなさそうなので厳しいかな……。

続きを読む