心があるという判断は主体性、感受性の2軸
リスクに動的に対応するため、学習して適応するプロセスを内蔵するガバナンス
学習とは能動的推論?
当たり前と思っていることがそうでなかったり(日本特有とか)
なので、その背景のナラティブを発見するというのがまず大事
痛みというか反射的な防御行動は、事前の推論からのズレが大きい?
nicoboはユーザーとのズレ、フリクションがあるので、全肯定の安心から依存してしまうとかがない
集団的能動的推論
信念を共有することで協力的行動を可能にする
AIによって注意しないといけないのは、知らぬうちに個人各エージェントの主体性自律性?エージェンシーが失われている?
なおここでの自律性とは外的環境をはねのけるようなものではない
ズレの大事さは、依存しないというか、ズレがあるからみんなその違和感から自分で考える
これ、コンフリクトでは??
民主主義の強みは、各人が違うこと
いろんな視点から考えて、それが網羅されるから間違いに強くなる。間違いにくいor間違えても修整がしやすい
正しいので従うAIではなくユーザーを育てるためのAI
しかしこれは現状儲かっていない
が、マーケットの原理に載せられないのか?
若干ズレていれば探索行動を取ってもらえる