ヒトと白律機械の協調作業における主体と責任

摘要

認知科学や脳科学の研究現場では，まだ学会発表や短報レベルではあるものの，AIやロボットそのものの性能を高めたり，それら人工物と生身の人間の比較をしたりする研究とは別に，どのようにそれらを設計すると，使用する人間の意思決定や判断を含む行動が最適になるかという，ヒトと人工物のインタラクションのデザインともいうべき研究が，「ヒト側の」感覚知覚や認知の問題として，Annual Meeting of Psychonomic Society USA等の国際学会で取り上げられるようになってきている．例えば，マンモグラフィーに代表されるX線写真などの医療診断用の画像を，近年では人工知能が自動的に画像診断するシステムの研究開発や高機能化が相次いでいる．一方，実際の医療診断や判断そのものは，最終的にはヒトである医師が現時点では実施しているため，必ずしもすべての医療関係者が医療用AIを信用し十分活用するとは限らず，医療従事者によってかなりの個人差があるのが現状だとこの種の学会で報告されている．思い起こせば，ここ数年のAIブームの中，医療ドラマの中では，人工知能が下した医療判断に対して，経験豊富な人間の医師が自らの信念により従わない結果，最終的に何らかの社会的勝利を人間の医師側が収めるといった筋立てのものが散見する．そこから予想されることは，人は自らの直感や経験に反する結果を人工知能が下した場合に，容易に信じず自らの信念を通そうとする可能性である．そのとき，医療用AIの性能や機能の高さは意味を失いかねない．