バイアスとは
最近、このブログではちょくちょくAIの機械学習のプロセスを信仰に適用することを書いていますが、今日も書こうと思います。それはバイアスというに関してです。バイアスとは偏向や偏見、先入観などを指しますが、AIの学習においてはバイアスが入ることにより全く使い物にならくなることがあります。
たとえば、機械学習はWeb上のコンテンツをそのまま学習したりしますが、その内容には国籍や人種による差別、特定の宗教への偏見、性別における差別が含まれています。なぜなら、それが人間社会に存在しているからです。データ自体にバイアスが含まれてしまっているのです。
目には見えないようなほんのごくわずかな汚染
一番いい方法は、事前にこういったデータバイアスが含まれないようにすることです。しかし、多くの場合それはかなり手間のかかる作業です。ですので、学習が済んだのち人間があとからチューニングすることが多いです。特定の国籍、人種、性別、宗教などによって差別をせずに公平性を保つように修正するのです。
実はこの問題は既に過去に起こっています。アマゾンがAIで採用をしていた時、学習したAIが男性を優先的に採用するようなアルゴリズムが入っていたようです。これはアルゴリズムバイアスです。
また、敵意のある第三者が意図的に学習データを汚染させてAIの判断を間違わせるといった方法もあったりします。しかも、それは人間の目には見えないようなほんのごくわずかな汚染なのです。
パリサイ人のパン種
僕はこのことを知った時に、イエス様の言葉を思い出しました。それは「パリサイ人のパン種に気をつける」ということです。ごく微量のパン種がパンを大きくさせるように、わずかな汚染やデータバイアスによって、判断がくるってしまうのです。
それは律法主義という汚染かもしれません。また、神様は愛だから何をしてもいいという甘えの汚染かもしれません。あるいは、日々メディアやSNSから受けることによって生じる怒りや悲しみなどかもしれません。
時々刻々と影響を受け続ける中で
機械学習は学んでモデルが完成したのちもチューニングされつつ学び続けることが多いですが、もし最適な状態で学習が完了したら、それで学習を止めることも可能です。しかし、人間は違います。日々、時々刻々と影響を受け続けています。それは本人が気づかないようなほんの小さな汚染かもしれません。
しかし、わずかな汚染が判断を完全に変えてしまうように、わずかなバイアスが主の御心から僕たちを引き離してしまう危険性があるということです。だからこそ、僕には聖霊が必要です。
