読者です 読者をやめる 読者になる 読者になる

KnoNの学び部屋

落ち着きのない大学院生が専攻に関係ない(むしろそっちのけで)学んだコトを記録しておく場所

哲学入門 その3(前編)

◇情報と交流 5.『哲学入門』

午前中は歯医者でした。

……せっかくいったのに、「デリケートなところをやるので抗生物質飲んでる間はできません」と言われて簡単なチェックだけで帰らされてしまいました……。

二週間後にまた行かなければならない。

 

引き続き

哲学入門 (ちくま新書)戸田山和久、2014)

第三章 情報

の前半をやります。

個人的ハイライト。

 

哲学入門 (ちくま新書)

哲学入門 (ちくま新書)

 

 

第三章 情報

 第一章、第二章では心的表象が何かを意味するということを前提としつつ、「心が何かを意味できる」ということを唯物論的世界観の中に位置づけることを考えてきた。

 次はそのような「存在もどき」が最初は含まれていなかった状態からどのようにして湧き出てきたのかを考え、トップダウンボトムアップの議論を調和させることを試みる。

 

どのようにして「情報」を考えるか

 前章までは「意味」について考え、「意味を理解するためには生物として生きなければならない」という結論が得られていた。

 しかしそのような「生きもの」がいない世界(=「意味」がない世界)においてさえ、「意味の原型」といえるようなものが存在する。解読者を前提としない情報である。

物理的世界は、因果の網の目であると同時に、情報の流れとしても捉えることが出来る。

 

 ところでこの「情報」という概念にはなかなか決まった定義がない。十人十色の定義がある。

→「情報とは何か」を考える前に、「情報とは何かを、どのようにして問い進めていけばいいのか」を考えなければならない。

 

 「情報」を概念分析するのではなく理論的概念として扱うために、次のような手順を踏む。

  1. 既存の情報概念の使われ方を整理する。
  2. それらを出来る限りシンプルにまとめ、相互の関係を明確にする。
  3. 整理された情報概念が持つ有用性と限界を考え、必要があれば手直しする。

 

 オランダの情報哲学者ピエター・アドリアーンスはこれまでの理論を整理し、三つの情報概念を取り出せると指摘している(手順1、のごく一部)。

  • A:知識に関係する情報概念
    →情報とは世界がどうなっているかについてのものだと考える。
  • B:確率に関係する情報概念
    →まれなニュースほど情報豊か、という直観に根ざしている。
  • C:アルゴリズムに関係する情報概念
    →複雑なメッセージほど情報豊か、という直観に発する。

 

 本書ではこれを元に「情報Bの情報Aへの関連づけ(手順2)」「それを手直しした役に立つ情報概念の構築(手順3)」を行う。

→情報Cは今回は扱わない、とのこと。勉強不足だから。

 

 まずは情報B、つまりシャノンの情報理論について考えるため、そのエッセンスをまとめることろから始める。

 

 

シャノンの情報理論

 クロード・シャノンはアメリカの電気工学者、数学者である。ベル研究所在勤中の1948年に発表した「通信の数学的理論」は現代の情報理論の基礎となった。

 その概要をまとめると次のようになる。

 

通信システムの定義

 通信システムは次の構成要素からなる。

  1. 情報源(information source)=可能なメッセージの集合の中から望むメッセージを選択・生成するもの。
  2. 送信機(transmitter)=メッセージを、通信路を介して送信できる信号にかえる装置。
  3. 通信路(channel)=送信機から受信機に信号を伝達する媒体。
  4. 騒音源(noise source)=通信路内の信号を歪めるもの。
  5. 受信機(receiver)=受信した信号をメッセージに変換する装置。
  6. 受信者destination)=メッセージを受け取る何か。

 

情報源の数理モデル

 情報源を「一度に一つずつある確率で記号あるいは文字を選択することによりメッセージを生み出すシステム」とみなす。

 その上で「情報のエントロピー」という概念を導入する。

エントロピー(平均情報量)

=情報源が平均として生み出す情報の量。各事象の(自己)情報量にその生起確率をかけ、その総和をとる。

 

(自己)情報量

=ある事象が生み出す情報の量。事象の生起確率について、その逆数の対数をとって定義される。

※大雑把な説明。数式が入り組んでこのブログの仕様では表記が難しいので、Wikipediaの該当ページ(情報量 - Wikipedia)を参照のこと。

 

通信路の能力の定量化

 シャノンの関心は「工学的な通信の理論」である。通信路の能力を定義するため、「通信路容量」という概念を与える。

通信路容量

=その通信路を介して単位時間当たりに送れる情報量。単位はビット/秒。 

 

 情報源の生み出したメッセージは、一般にそのままでは通信路で送信できない。

 送信機は符号化(encoding)を行い、メッセージを通信路で送信できる信号に変換する。

→符号化の巧拙によりメッセージの送信速度が変化する。

 

二つの基本定理の証明

 シャノンは符号化に関して二つの重要な定理の証明を行っている。*1

情報源符号化定理

=容量一定の通信路の送信速度の上限は、情報源のエントロピーHと通信路容量Cによって決まる。

 

通信路符号化定理

=符号化の工夫によりノイズによる誤りの頻度をいくらでも小さくすることが出来る。 

 

 

拡張された情報概念

 ここまで見てきたように、シャノンの目的は通信システムの効率について厳密な数学的理論を作ることにあった。

 シャノンだけでなく、ハリー・ナイキストラルフ・ハートレーなどの研究の中で「情報の心理的側面(意味)を捨て、通信の純粋に物理的な側面にだけ注目する」という路線が確立していく。

  • 送信側でなされた選択の結果を受信側で識別できることだけが情報伝達の本質であり、意味の理解は関係ない。
  • 確率メカニズムによる選択が情報を生む(=排除された可能性が情報量を決める)。
  • 情報が流れるためには意識ある解釈者は要らない。

 

→「意味抜き平均情報」(=意味や解釈者は考慮せず、平均や期待値だけを問題にする情報概念)の成立。

 

 これはある面で「薄められた」情報の概念だが、代わりに非常に大きな拡張性を手に入れることになった。

エントロピーはその生起確率だけから求めることが出来る。

事象あるいは出来事一般に、情報量の概念を拡張することが出来る。

→「何か出来事が生じれば情報が生まれる」と考えてもよい、となる。

 

 こうしたシャノン流の「意味抜き平均」の情報概念は、意味を重視する哲学者には無視されがちであった。しかし情報の「量」の理論と「意味」の理論を結びつけたのがフレッド・ドレツキである。

 後半はこのドレツキの仕事の内容を追っていく。

 

 

【今回の三行まとめ】

  • 「情報」概念は非常に曖昧なものであり、まず「それをどのように考えていくか」から考える必要がある。
  • 情報理論の基礎となるものにシャノンの理論がある。通信モデルの定義、エントロピー概念の導入、符号化についての二つの基本定理の証明などを行った。
  • シャノンの意味の側面を捨象し通信効率に特化した議論は、結果として非常に拡張性のある情報概念の成立をもたらした。

 

【今回の宿題】

  • 「二つの基本原理」の詳細の確認

 

……さて、この本の中でも特に目当てとなる部分。さらにいえば「情報源符号化定理」の詳細を確認し、0と1の世界での上限を他のアプローチからなんとか突破することは出来ないか考えることが個人的な目標となります。

 シャノンの通信モデルは『知の編集工学』にも出てきました。松岡正剛はこれに変わるものとして「編集の贈り物交換モデル」を提案しています。

 「情報」と「意味」がどう絡んでいくのか。ドレツキの議論が楽しみです。

 

それでは

 

KnoN(90min)

 

シャノンの情報理論入門 (ブルーバックス)

シャノンの情報理論入門 (ブルーバックス)

 

 

*1:クロード・シャノン - Wikipediaの該当部分も参照のこと。