「劣化問題」などと呼ばれ、 追加学習や再学習 が必要とされるケースとして知られていますが、筆者にも経験があります。
機械学習のモデルが、扱っている現象の原理原則とは関係なく、学習時のデータだけから経験的に作られていると、起きやすい問題です。
工場では、品質保証の仕組みがあったり、品質管理や設備管理をしっかりしていたりしますが、それでも、良品が作られる時と、不良品が作られる時の違いが、わかっていないことがあります。 問題が起きた時に、詳しく調査して、初めてわかることは、珍しくないです。
何百、何千という数のセンサーで管理していたとしても、知らない事や、わかっていない事はあります。
