人共存環境における自律移動ロボット制御技術への深層強化学習適用リスクについて:病院内での患者の転倒事故防止支援についての一考察

摘要

深層学習により，画像認識，行動認識，物体検出，シーン認識などに対する識別精度の向上は著しい．それとともに，特定の分野ではあるものの，人間の能力を上回りはじめ，技術の進歩が人間の生活を不可逆に変え，これまでに拠り所としていた概念をも変化させてしまう「シンギュラリティ」が懸念されている．一方，人工知能を搭載したシステムによる人の作業支援や代替，人との協調システムの開発は，様々な産業分野で進みつつあるが，人工知能を安全技術に適用することは，IEC61508ed2などの既存の機能安全に関わる国際標準規格では許されていない．人工知能は，周囲との相互作用により，周囲の特徴やそこで行うべき自身の振る舞いを学習する．そのため，人工知能の発展過程においては，コミュニケーション型ロボットが周囲からの相互作用により不適切な振る舞いを学習する場合（例えば，2016年3月には，技術的な実験でマイクロソフト社の会話型人工知能の「Tay」がTwitter を通じた学習により，人種差別，性差別，陰謀論を語りはじめ，緊急停止させられた事例）や，2016年5月に米テスラ社の自動運転車モデル S が環境を誤認識して横断するトレーラに衝突し，交通死亡事故を引き起こした事例など，運転者に責任があるオートパイロットモードのベータ版であったとはいえ，危険な事象が発生している．