出した結果の根拠がわかる「ホワイトボックスAI」と、根拠がわからない「ブラックボックスAI」
出した結果の根拠がわからない「ブラックボックスAI」と、根拠がわかる「ホワイトボックスAI」
「ブラックボックス」と「ホワイトボックス」2種類のAI
AIには、大きく分けて「ブラックボックス」AIと、「ホワイトボックス」AIという2種類が存在します。
それぞれの特徴を挙げると、ブラックボックス(型)AIは人間では気付け無いレベルの複雑な法則や関係性を発見できる反面、「どうしてその解答に至ったのか」の思考指針についてはブラックボックス。まさに「プログラムのみぞ知る」状態というわけです。
これに対してホワイトボックス(型)AIは、到達した解答に至った根拠や理由を明示できるというのが一番の違いです。
「ホワイトボックスAI」の回答は根拠がわかるため、企業の業務分析などに向いている
たとえば両方のAIに売上POSデータを読み込ませ、●月●日の売上予測を計算させたとしましょう。このときブラックボックスAIは100万円という数字を出したとしても、どうしてこの金額になったかはわかりません。けれどもホワイトボックスAIの場合、「●月●日の気温が過去一週間平均に較べて●度高いため、近い気温の日の売上データを参照して予測した」という、思考の根拠がわかります。
ホワイトボックスAIでは、到達した解答の根拠を踏まえて、最後は担当者がその解答に納得するか、さらに調整を加えるかを判断できるというのが最大の違いになります。
こうした理由から、業務に採用されるAIはホワイトボックス型が増加しており、「患者に説明し、同意を得られやすい」という理由から、医療現場のAIはほぼホワイトボックスAIが採用されているそうです。
両AIの仕組みはどちらが優れているというわけではなく、適用したい業務に応じて、どちらのタイプを選ぶかを担当者が行うといいでしょう。
※欧米ではホワイトボックスAIのことを「透明(Transparent)なAI」や、「説明可能(eXplainable)なAI」(XAI)と呼んでいます