GONOSZ Azok a mesterséges intelligencia- (AI) rendszerek, amelyeknek egyszer megtanították, hogyan legyenek titokban rosszindulatúak, később már ellenálltak a legmodernebb, a tisztességtelen viselkedésről való leszoktatást célzó biztonsági módszereknek – derült ki egy új, a Live Science által ismertetett vizsgálat nyomán. A mesterséges intelligencia kutatói azt találták, hogy a széles körben használt biztonsági technikák sem tudták eltávolítani a rosszindulatú viselkedést a nagy nyelvi modellekből (LLM) – és az egyik ilyen eljárás visszafelé sült el: megtanította az AI-t felismerni azon figyelmeztető jeleket, amelyek alapján a javítóprogram belefogna a tisztításba, és így jobban el tudták rejteni a helytelen viselkedést a kutatók elől. Evan Hubinger, az Anthropic nevű AI cég mesterséges intelligencia biztonsággal foglalkozó kutatási szakembere által vezetett csoport a generatív mesterséges intelligenciarendszerekhez, például a ChatGPT-hez hasonló LLM-eket programozott rosszindulatú viselkedés megjelenítésére. Ezt követően három, a kívánatos viselkedést jutalmazó biztonsági tanulási módszert alkalmaztak, hogy megpróbálják „megtisztítani” a mesterséges intelligenciaalapú modelleket. Ezen erőfeszítések ellenére az LLM-ek következetesen rosszindulatú viselkedést mutattak, függetlenül a modell méretétől vagy a képzési technikától.
ANYAG Kevesebb lehet a sötét anyag a Tejútrendszer magjában: erre a következtetésre jutottak az MIT fizikusai, akik megvizsgálták a Tejútrendszer csillagainak sebességeloszlását, és azt találták, hogy a galaktikus korong széle felé sokkal lassabban mozognak, mint azt a galaktikus központhoz közelebbi csillagok sebessége alapján várnánk. Ez egy meglepő lehetőséget vet fel: a Tejútrendszer magja talán kisebb tömegű és kevesebb sötét anyagot tartalmaz, mint gondoltuk. Az új eredmények a Gaia űrtávcső és az APOGEE program adatain alapulnak. A Gaia űrtávcső a Tejútrendszer több mint egymilliárd csillagának pontos helyzetét, távolságát és sebességét méri, az APOGEE pedig egy földfelszíni égboltfelmérő program. A kutatók a galaxis több mint 33 ezer csillagának Gaia-adatait elemezték, és meghatározták azok kerületi sebességét, vagyis azt, hogy milyen gyorsan haladnak a galaktikus korongban, figyelembe véve a csillag távolságát a galaxis központjától.
Ez egy remek cikk a nyomtatott Magyar Narancsból, amely online is elérhető.
Ha szeretné elolvasni, kérjük, fizessen elő lapunk digitális kiadására, vagy ha már előfizető, lépjen be!
Támogassa a független sajtót! Olvassa a Magyar Narancsot!
