AIへの素朴な探求心リスクアセスメントの本質《安全の窓》3

【コラム・佐々木哲美】もともとコンピューターなど知識も乏しく苦手ですが、急速に進化し続けるAIが社会をどう変えていくのか関心を持って情報に触れています。先ごろ、新聞で第84期名人戦七番勝負を制した藤井聡太名人が、防衛を記念して将棋AI「水匠」開発者の杉村達也さん（たややん）と対談した記事を読みました。そこで、杉村さんは「AIとはナーダリング（順位付け）である」と語りました。この言葉は、AIの本質を端的に示しており、藤井名人がAIの指し手を深く理解している理由にもつながっています。藤井名人は、水匠がどのような基準で手を並べているのか、その“順位付けの癖”を読み解いているのです。

AIの本質は順位付けにある

AIは複雑な計算をしているように見えますが、実際には常に複数の選択肢を比較し、どれが最も望ましいかを選び続けています。将棋AIなら最善手、生成AIなら次の単語、画像認識AIなら特徴量の重要度、安全AIなら危険源の優先度─すべては候補を並べて順位付けする行為です。AIの脳である評価関数は、この順位付けのために存在し、スコアは序列化のための数値にすぎません。つまりAIとは、膨大な選択肢を瞬時に並べ替える「ナーダリングの機械」であると言えます。

水匠が強い理由も、このナーダリングの精度にあります。探索コードよりも、学習データの質、評価関数の重み、手数の扱い、深い読みの反映など、順位付けの基準をいかに整えるかが棋力を決めます。最近の将棋AIは1秒間に1億手以上読んでいるそうです。藤井名人は自らもコーディング（プログラミング）で、「将棋であったら便利になるな」というものを作っています。打つ手はかなり感覚に委ねられ、「こういう展開を目指したい」という目的を設定し、どういう手を選べばそこに近づけるかを考えると言います。

AIの評価値と人間の判断の違い

ここで重要なのは、AIの順位付けと人間の判断による順位付けは本質的に異なるという点です。安全におけるリスクアセスメントは、「危険を見つける → 理由を語る → 納得の対策を決める」という流れの安全管理の手法です。「なぜ危険なのか」という理由を言語化し、現場の制約や経験を踏まえ、関係者が納得する判断をつくる熟議のプロセスです。順位付けはその過程で生まれる副産物であり目的ではありません。リスクアセスメントの本質は、透明性のある理由によって安全な合意を形成する技術なのです。

AIは並べることはできても、納得をつくることはできません。AIが提示する順位は「評価値」というブラックボックスの産物です。だからこそ、AI時代の安全管理では、AIの冷静なナーダリングと、人間の熟議による判断を組み合わせることが不可欠です。機械の序列化と人間の対話が重なったとき、初めて本当に安全な判断が生まれるのです。（労働安全コンサルタント）