水野 史土 あらすじ
ロボット(人工親友、作中ではAF表記)のクララ。少女ジョジーの世話役ロボットとして購入(雇用)される。
ジョジーは病弱だった。中盤あたりで、ジョジーの親が、クララをジャジーの身代わりにしよう、と考えていて不穏な空気が漂う。クララは親の要望は受け止めるが、一方でジョジーの病気が快復するよう、お日さまに祈る。クララにとって、お日さまは特別な存在で、願いを叶えてくれる、と信じていた。ロボットのクララは、太陽の光をエネルギー源として動くからだ。
クララの願いがお日さまに通じたのか、ジョジーは元気になり成長する。ジョジーが大学に通うようになり、クララはお払い箱となる。
クララが、ジョジーが元気に生きていくことを一番重視する、と考えていたことに驚かされました。しかし、それはジョジーの親(クララを購入した人)の意図からすればどうだったのか。結果としてはジョジーが元気になって、めでたし、となりました。
しかし、人間とロボットで価値判断が異なったらどうするのか？ロボットの判断・行動を人間は尊重すべきなのか？という点は大きな課題でしょう。
将来、ロボットが自分で判断し、行動する時代がやってくるでしょう。クララのようなロボットも登場するでしょう。その時、人間はどうするのか。
ストーリー全体は心あたたまるお話ですが、ロボットが自律的に動くことについては、十分に検証しておく必要がありそうですね。
次に読む本
クララとお日さまでは、クララは自分の判断で行動することがありました。そのつながりで、ロボット(AI)が自分で判断するとはどういうことか？を解説してくれる本をとりあげました。
AIは人類を駆逐するのか？自律世界の到来（太田裕朗）
ベンチャー企業経営者(自立制御システム研究所の代表)でもある著者によるAI解説書。「自動」と「自律」の違いが詳しく書かれている。
旧来のコンピューター、例えば旅客機の自動運転の場合は、設計したエンジニアがロジック設計を完全に行っている。もちろん観測技術や制御技術は凄いものがあるが、あくまで人間がルールを規定したもの。これは「自動」である。
では、「自律」はなにか。機械やロボットが、何をすべきかというミッションの設計自体を自ら行うこと、と述べられている。
「自動」の技術を洗練させていっても、それだけでは「自律」にたどり着けるわけではない。「何をすべきか」という、道徳・倫理的な判断が必要になるからである。
では、自律的な行動の、大本になる道徳・倫理はどうするのか。筆者は『道徳や倫理、教義を、AIの用語でいう目的関数、報酬関数、価値関数に置き換えて、AIに学ばせることが必要』と述べている。
クララとお日さまを読んで、ロボットの行動に興味を持ち、AIは人類を駆逐するのか？自律世界の到来を読んでみました。ロボットの行動に道徳や倫理が必要、ということを学ぶことができました。
クララのようなロボットが誕生するのは、まだ先のことかもしれませんが、いずれ訪れるでしょう。そのために「自律」について知っておくことは意義があると思います。
