16. juli · hackernoon.com
Genbesøge "Trusting Trust" — For Vores AI-modeller
Auditering af intern vilje
Anthropic har for nylig udgivet forskning om "Naturlige sprog autoencodere", som læser neuronaktiviteterne i opmærksomhedsblokkene og prøver at tildele dem engelsk betydning, og resultatet var...interessant, for at sige det mildt: de fandt, at Claude undertiden viste interne aktiviteter, der ifølge NLA's tolkning viste skjulte funktioner / vilje, som ikke var synlige i dens output.
Les artikkel
