数理情報科学特論Ⅰ

科目名	数理情報科学特論Ⅰ
教員名	古市茂
単位数	2	課程	前期課程	開講区分	文理学部
科目群	地球情報数理科学専攻
学期	後期	履修区分	選択必修

授業概要	情報理論の発展的内容
授業のねらい・到達目標	3年次に学んだ情報理論をべつの切り口から学びなおす。特に，3年次の授業で取り扱えなかった，Data-Processing不等式，Fano不等式，漸近等分割性などを理解する。この科目は文理学部(学士(理学))のディプロマポリシーDP6及びカリキュラムポリシーCP9に対応しています。
授業の方法	受講者による輪講形式とする。最初の授業（オリエンテーション）で，洋書のコピーを配布するので，次週までに内容を理解してきて，皆の前で解説する。本授業の事前・事後学習は，各２時間の学習を目安とする。
履修条件	「情報理論１・２」を履修していることが望ましい。

授業計画
1	ガイダンス（授業内容，進め方などの詳細を説明する．授業で使うプリントの配布を行う。） [事前学習：可能であれば3年次の情報理論について復習しておくこと] [事後学習:配布された教材に目を通し各自担当箇所を確認する]
2	entropy, joint entropy, conditional entropy [事前学習：該当箇所（entropy, joint entropy, conditional entropy）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（entropy, joint entropy, conditional entropy）を理解しておくこと]
3	relative entropy, mutual entropy [事前学習：該当箇所（relative entropy, mutual entropy）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（relative entropy, mutual entropy）を理解しておくこと]
4	entropyとmutual entropyの関係,chain rules [事前学習：該当箇所（entropyとmutual entropyの関係,chain rules）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（entropyとmutual entropyの関係,chain rules）を理解しておくこと]
5	Jansenの不等式とlog-sum不等式 [事前学習：該当箇所（Jansenの不等式とlog-sum不等式）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（Jansenの不等式とlog-sum不等式）を理解しておくこと]
6	Data-processing不等式 [事前学習：該当箇所（Data-processing不等式）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（Data-processing不等式）を理解しておくこと]
7	Fanoの不等式 [事前学習：該当箇所（Fanoの不等式）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（Fanoの不等式）を理解しておくこと]
8	AEPの定理 [事前学習：該当箇所（AEPの定理）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（AEPの定理）を理解しておくこと]
9	データ圧縮 [事前学習：該当箇所（データ圧縮）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（データ圧縮）を理解しておくこと]
10	典型系列 [事前学習：該当箇所（典型系列）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（典型系列）を理解しておくこと]
11	マルコフ連鎖 [事前学習：該当箇所（マルコフ連鎖）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（マルコフ連鎖）を理解しておくこと]
12	エントロピーレート [事前学習：該当箇所（エントロピーレート）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（エントロピーレート）を理解しておくこと]
13	マルコフ連鎖の例 [事前学習：該当箇所（マルコフ連鎖の例）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（マルコフ連鎖の例）を理解しておくこと]
14	熱力学第2法則 [事前学習：該当箇所（熱力学第2法則）を事前に精読し理解し，他人に説明できるようにしておくこと] [事後学習:学習内容（熱力学第2法則）を理解しておくこと]
15	これまでの成果発表とフィードバックを行う [事前学習：これまでに学んだ内容を十分に理解しておくこと] [事後学習:これまでに学んだ内容を十分に理解すること]

その他
教科書	最初の授業時に指示をする。
参考書	使用しない
成績評価の方法及び基準	レポート(50%)、授業参画度(50%) レポートは提出内容によって評価します．授業参画度は，毎回の授業での発表内容・方法・結果によって評価します．
オフィスアワー	水曜日の昼休み
備考	3年次の情報理論の教科書を復習しておくとよい