„Uczniowie” AI przejmują od mentorów nie tylko upodobanie do sów

Niedawno badacze odkryli, że „uczeń” – model SI trenowany do wykonywania prostych zadań na podstawie przykładów otrzymanych od „nauczyciela” – może przejąć od niego całkowicie niezwiązane z tematem lekcji cechy, na przykład upodobanie do konkretnych zwierząt lub roślin.

Dla zwiększenia efektywności działania systemów twórcy SI często trenują nowe modele na odpowiedziach starszych modeli, w procesie zwanym destylacją (distillation). Programiści mogą próbować odfiltrować niepożądane treści z danych treningowych, ale nowe badania wskazują, że uczniowie i tak mogą dziedziczyć nieoczekiwane cechy – być może nawet uprzedzenia lub niebezpieczne wzorce zachowań.