生成AI

ハルシネーションとは、生成AIが事実に基づかない情報や、あたかも真実であるかのように誤った情報を生成してしまう現象を指します。なぜこのようなことが起こるのでしょうか？

生成AIが作り出したコンテンツを、別の生成AIが学習データとして利用することで、問題が生じ始めています。これは「モデル崩壊（Model Collapse）」や「自己補食（Self-consumption）」などと呼ばれ、AIの性能劣化やバイアスの増幅といった問題を引き起こします。

現時点では、生成AIに完全に任せられる仕事は決して多くありません。なぜなら、生成AIにはハルシネーションという大きな問題があるからです。 もし重要な判断を生成AIに委ねてしまえば、取り返しのつかない事態に発展する可能性すらあります。