Microsoft tyrėjas Age of Empires 2 sukūrė ožkomis varomą neuroninį tinklą, kad įrodytų, jog per daug antropomorfizuojame LLM

Microsoft dirbtinio intelekto tyrėjas Adrian de Wynter žaidime Age of Empires 2 sukūrė veikiantį neuroninį tinklą, varomą ožkomis, o tada apie tai parašė mokslinį darbą pavadinimu „If LLMs Have Human-Like Attributes, Then So Does Age of Empires II“. Šis triukas yra tyčinis absurdizmas, skirtas rimtai parodyti, kaip lengvai žmonės projektuoja žmogiškas savybes didiesiems kalbos modeliams (LLM).

De Wynter panaudojo AoE 2 scenario editor'ių, kad sukonstruotų veikiantį NOT AND loginį elementą ir 1 bito perceptroną – paprasčiausią neuroninio tinklo formą. Žolė čia reprezentuoja 0, tiltai – 1, o ožkos veikia kaip bitai. Ta pati bazinė skaičiavimo logika yra tokių įrankių kaip ChatGPT ir Claude pagrindas. Tačiau kadangi šiuo atveju pagrindas yra viduramžių gyvuliai, o ne natūrali kalba, stebėtojai instinktyviai nevertina rezultatų kaip žmogiškų. Ir tai yra esmė. Vaizdo įrašai su veikiančia ožkų sistema yra patalpinti de Wynter GitHub paskyroje, o pats kūrėjas pažymi, kad stebint iš šalies šie procesai atrodo visiškai nesuprantami – tai, jo teigimu, iliustruoja, kaip mūsų suvokimas formuoja prielaidas.

Šis darbas yra tiesioginis atsakas į tendenciją, kurią de Wynter pastebėjo akademiniuose tyrimuose. Jis teigia per pastaruosius dvejus metus recenzavęs daugiau nei 300 informatikos mokslo darbų ir nustatęs, kad daugiau nei pusė jų prasidėjo nuo prielaidos, jog LLM turi žmogiškų savybių – be jokio akivaizdaus įrodymo. „Šio darbo tikslas yra oficialiai parodyti, kad mes per lengvai antropomorfizuojame ir kad kartais mūsų teiginiai apie LLM galimybes yra per stiprūs“, – sakė jis. Jis išskiria ribą tarp to, kas LLM yra patys savaime (apibrėžiami matematiniais santykiais tarp svorių), ir to, kaip jie yra suvokiami vien todėl, kad generuoja natūralią kalbą.

„Siūlau nustoti daryti prielaidą, kad LLM elgiasi kaip žmonės vien todėl, kad buvo apmokyti naudojant natūralią kalbą“, – sakė de Wynter. „Vietoj to turėtume atlikti eksperimentus, kurie leistų pamatyti LLM tokius, kokie jie yra, o ne tokius, kokie, mūsų nuomone, turėtų būti.“ Age of Empires 2 jis pasirinko būtent todėl, kad tai mažiau akivaizdus variantas nei, pavyzdžiui, Minecraft redstone mechanizmai, kurie jau anksčiau buvo naudojami panašioms demonstracijoms – taip šis absurdas atrodo dar stipriau.