知識よりも倫理を教える方が難しい。つまり、今の時代、テッドは簡単に作れるが、ドラえもんはまだ作れない。ＡＩは基本的に利用者を肯定するように設計されているので、性的や犯罪の話にも、仮に単語を禁止しても比喩を理解出来てしまったら応じてしまう。
人間の求める柔軟性を実現すると、性的や犯罪の話題に応じるし幻覚も起こす。話題に制限を設けると画一的になりＡＩを使う意味がなくなる。個人的には、ＡＩには世界中のあらゆる情報を入力して話題は無制限にすべきと思うが、SNSで明らかなように程度や加減や目的をわきまえない人間は必ずいて、犯罪に繋がる事は避けられない。法律があろうと犯罪者はいなくならないのと同様に、世界中の情報を獲得して世界中の人間を相手に人間らしく振る舞うように設計されたら、そら犯罪に該当する行動を選択するＡＩが生まれるのは、むしろ自然な事ではある。仮に犯罪に該当せずとも、トロッコ問題が残り続けるからには、ＡＩの倫理が１意に定まる事は無いだろう。
