エピソード１７ ブラックボックス
AIは、自然で説得力のある答えを生み出すことができます。
しかし、その答えがどのような計算や判断の過程から生まれたのかを、私たちが十分に理解できないことがあります。これがAIの「ブラックボックス」と呼ばれる問題です。
ここで問われるのは、答えを出すことと、本当に理解して考えることは同じなのかということです。
リフレクション
AIは、大量の情報からパターンを見つけ、確率を計算し、もっともらしい答えを示すことができます。
しかし、その答えが本当に正しいのか、公平なのか、信頼できるのか、そして実際に使うべきなのかを判断することは、別の問題です。
AIが高度になればなるほど、私たちは答えをそのまま受け入れるのではなく、理由や根拠を確かめ、自分で判断する必要があります。
その意味で、AIの発達は、人間の判断を不要にするのではなく、むしろその重要性を高めるかもしれません。
考えるための問い
AIが正しい答えを出しても、その理由がわからなければ、私たちは本当に「知っている」と言えるでしょうか。
どのような説明や根拠があれば、その答えを信頼できるでしょうか。
医療や法律など、AIだけに任せるべきではない判断はあるでしょうか。
AIがより高度になれば、人間の判断は重要でなくなるでしょうか。それとも、さらに重要になるでしょうか。
エピソード１６拡張された心 / 全エピソード / エピソード １８シンギュラリティ（近日公開）