世間に転がる意味不明:AIに関する漠然とした不安(人間だけに任せられない現実)


■信頼できない管理の記録

昨年来、記録の改竄などのニュースが後を絶たない。
直近の記事などは命に関わる問題であり、もっと大騒ぎしてもよいと思うのだが、一地方の記事と云うことで全国ニュースで取り上げられるものの一過性である。

○JR九州高速船の「クイーンビートル」浸水隠蔽、前社長が指示…裏管理簿に日々の浸水量記録
2024/08/15

松下氏らの説明によると、2月12日にクイーンビートルの船首部分で2~3リットルの浸水が確認された。浸水発生は現場から田中氏に報告されたが、田中氏の指示で国土交通省に報告しないことを決定。法令で義務づけられた検査や修理も行わなかった。

さらに、浸水を隠蔽する工作の具体例も明らかにされた。設備の不具合などを記載する航海日誌や整備記録には「異常なし」と虚偽記載をした上で、外部には出さない「裏管理簿」を作成し実際の浸水量を日々記録していた。

https://www.yomiuri.co.jp/national/20240815-OYT1T50058/

記録が記録として成り立たないのであれば検査をすること自体に意味をなさない。
同じような事件はまた起きるだろう。
再発防止もいわゆる三大無策(管理強化、周知徹底、再教育)に向かい、責任者も断罪されることもなく表面的な対応で終わるのであれば再発防止などはできない。

■システムを変える

こうした記録の改竄は「記録の改竄ができる」こと自体が問題であり、その根源は「記録を作成するのが人間」だからである。企業が「安全よりお金」という姿勢を変えられない限り同じ問題が生じる。なぜなら、企業が「安全よりお金」という文化を創り出せば働く人も「安全よりお金」で行動するからである。

これを防ぐには「人間にやらせない」という選択肢に行かざるを得ない。
すでに技術はできている。
検査工程はすべてAIにやらせる。報告は「コンプライアンス」の責任部署に届けられ、そこでも自動的に管轄官庁に情報が行くようにする。

人が介在するとろくなことにならないという事例を積み上げると、今にシステムへの介入すら人間にやらせないという未来が来そうで怖い。

2024/08/17

 

■その他の関連記事

○日韓高速船、JR九州子会社が不正隠蔽 国交省の判断焦点
2024年8月14日

JR九州子会社が博多港(福岡市)―韓国・釜山港を結ぶ高速船「クイーンビートル」の浸水を隠したまま3カ月以上、運航を続けていたことが発覚した。ずさんな安全管理体制が露呈し、国土交通省が監査を続けている。同省は北海道・知床半島沖での観光船沈没事故を受け事業者の監視を強めており、不正をどう判断するかが焦点となる。

https://www.nikkei.com/article/DGXZQOJC148IJ0U4A810C2000000/

○JR九州会見、高速船の浸水隠蔽「子会社前社長の指示」
2024年8月14日

JR九州高速船(福岡市)が日韓高速船で船内への浸水を隠蔽して運航を続けていた問題で、親会社のJR九州の役員が14日記者会見し「(隠蔽は)JR九州高速船の前社長の指示だった」と明らかにした上で「安全意識の欠如が招いた事態で、本当に申し訳ない」と謝罪した。

https://www.nikkei.com/article/DGXZQOJC13ABR0T10C24A8000000/

○福岡とプサン結ぶ高速船 船体への浸水隠したまま3か月以上運航
2024年8月14日

JR九州によりますと、子会社のJR九州高速船は、福岡と韓国プサンを結ぶ高速船「クイーンビートル」の船首部分に浸水があるのをことし2月に把握しながら、法律で義務づけられた検査や修理、国への報告を行っていませんでした。

さらにその後も浸水を検知する警報センサーが作動しないようにするなどトラブルが起きていないように装って3か月以上運航したあと、修理をして運航を続けていましたが、今月6日に行われた国の抜き打ちの監査で一連の不正が発覚しました。

https://www3.nhk.or.jp/news/html/20240814/k10014548911000.html