ÄûÃʵ¼º½

Uutiset

Räppialgoritmi vei Google DeepMindille tutkimaan kielimalleja – nyt Eric Malmi aloittaa vierailevana professorina Aallossa

Eric Malmi on väitellyt Aalto-yliopistosta vuonna 2018, aiheenaan tekoälymenetelmien kehittäminen historiallisten aineistojen ja sukupuiden linkittämiseen. Google DeepMindilla hän on kehittänyt Gemini-kielimalleja sekä shakkitekoälyä. Aaltoon hänet toi Suomen ELLIS-instituutti.
Eric Malmi Otaniemen kampuksella Laura Könösen Glitch-teoksen edessä. Kuva: Matti Ahlgren
Eric Malmi Otaniemen kampuksella Laura Könösen Glitch-teoksen edessä. Kuva: Matti Ahlgren

Miten päädyit takaisin Aaltoon?

Uutinen  perustamisesta oli yksi lähtölaukaus. Ajattelin, että ELLIS-instituutti tuo Suomeen ja Aaltoon muitakin osaajia sekä myönteistä tekoälypöhinää. Lisäksi olimme perheenä päättäneet, että on aika palata Sveitsistä Suomeen.

Vuoden 2018 väitöskirjassani tutkin historiallisten aineistojen linkittämistä, ja miten niistä voidaan muodostaa sukupuita. Vaikka väitöskirjassani hyödynnettiin koneoppimista ja tekoälymenetelmiä, se sisälsi kuitenkin paljon manuaalista työtä. Piti siivota dataa ja saada se tiettyyn formaattiin. Suuret kielimallit auttavat automatisoimaan monia prosesseja. Sille voi antaa raakadataa ja pyytää sitä löytämään yhteyksiä.

Koen, että tekoäly ja kielimallit tulevat muuttamaan meidän yhteiskuntaamme valtavasti. Haluan olla muovaamassa tätä muutosta mahdollisimman positiiviseen suuntaan. Haluan myös olla mukana kasvattamassa seuraavan sukupolven tekoälyasiantuntijoita. Siksi olen kiinnostunut opettamisesta. Vedin jo muutama vuosi sitten yhden kurssin vapaa-ajalla.

Työskentelen päätoimisesti Googlen DeepMindilla neljänä päivänä viikossa. Päivän viikossa olen vierailevana professorina (adjunct professor) Aallossa sekä ELLIS-instituutissa. Myös Googlella tutkin suuria kielimalleja, mutta akateemisella puolella minun on tarkoitus keskittyä enemmän poikkitieteellisiin sovelluksiin, kuten tekoälyn hyödyntämiseen yhteiskuntatieteellisillä sekä humanistisilla aloilla. Tällä alueella on paljon tehtävää, koska kielimalleja kehittävät yritykset harvemmin keskittyvät niiden soveltamiseen esimerkiksi historiantutkimukseen.

Ajattelin, että ELLIS-instituutti tuo Suomeen ja Aaltoon muitakin osaajia sekä myönteistä tekoälypöhinää.

Eric Malmi

Mitä odotat tulevaisuudelta Aallossa?

Pääsen pian opettamaan seminaarikurssia suurista kielimalleista. Se on erikoiskurssi maisteri- ja tohtoriopiskelijoille ja keskittyy tekniseen puoleen ja viimeaikaisiin julkaisuihin. Kurssi on suunnattu opiskelijoille, jotka ovat jo käyneet koneoppimisen kursseja.

Mitä kuuluu räppialgoritmille?

Se julkaistiin Aallossa kymmenisen vuotta sitten. -generaattoria on käyttänyt yli miljoona ihmistä, ja se pyörii edelleen. Jos on tullut käyttökatkos, olen saanut paljon turhautuneita viestejä. Olen myös tehnyt yhden jatkotutkimuksen lyriikoiden generoimisesta tekoälyn avulla.

Harrastelijaräppärit käyttävät generaattoria oman luovan prosessin tukemiseen. He saavat sieltä ideoita, mikä voisi olla sopiva laini eli rivi. He eivät vain paina nappia ja ota ideaa, vaan pallottelevat ideoita ja etsivät sitä, mikä voisi rimmata oman tekstin kanssa.

Googlella ensimmäinen haastattelija mainitsi, että oli lukenut uutisartikkelin räppigeneraattoristani. En usko, että se vaikutti palkkaamiseen, mutta minulle se antoi itsevarmuutta haastatteluun. Ja kun siirryin Googlella Gemini-tiimiin, ensimmäinen projektini oli Geminin lyriikkaominaisuuksien parantaminen. Räppialgoritmi oli siis käänteentekevä sivuprojekti urallani, koska sitä kautta päädyin tutkimaan kielimalleja Googlella. Sillä tiellä olen edelleen.

Mitä ajattelet tekoälystä ja luovuudesta?

En näe, että tekoälyä kehitettäisiin korvaamaan ihmistä, vaan tukemaan luovuutta ja älykkyyttä. Tekoäly voi olla keskustelukumppani, monen alan asiantuntija, jota monella ihmisellä ei muuten olisi.

Tekoälyn voi nähdä mahdollisuutena ihan samalla tapaa kuin esimerkiksi syntetisaattorin. Alkuvaiheessa osa muusikoista pelkäsi syntetisaattorin korvaavan heidät, mutta se on tarjonnutkin uudenlaisia mahdollisuuksia ilmaista itseään. Vastaavasti tekoäly luo uusia mahdollisuuksia ilmaista itseään esimerkiksi vibe- eli tekoälyavusteisen koodaamisen kautta ilman että tarvitsee harjoitella koodaamista vuosikausia.

Räppialgoritmi oli käänteentekevä sivuprojekti urallani, koska sitä kautta päädyin tutkimaan kielimalleja Googlella.

Eric Malmi

Mitkä ovat mielestäsi tutkijan tai opettajan tärkeimmät ominaisuudet?

Tutkijalla uteliaisuus uusiin asioihin ja halu päästä pintaa syvemmälle. Opettamisen kannalta tärkeää on kyky asettaa itsensä toisen asemaan ja pyrkimys nähdä ongelma toisen näkökulmasta, jolloin voi suhteuttaa viestin sille henkilölle sopivaksi.

Mikä on ollut urasi kohokohta?

Vedän Google DeepMindilla tutkijataustaista ryhmää, joka keskittyy Gemini-mallien kouluttamiseen. Tarkemmin ottaen toiset ryhmät koettavat esikoulutusvaiheessa saada kaiken mahdollisen tiedon kielimallin sisään, ja jälkikoulutusvaiheessa me koetamme saada ne mallit mahdollisimman hyödyllisiksi ihmisille. Sen avulla ne antavat hyödyllisiä vastauksia ja pystyvät keskustelemaan.

Viime aikoina on tutkittu esimerkiksi sitä, miten kielimallit saadaan antamaan parempia vastauksia antamalla niille lisää miettimisaikaa. Sovelsimme tätä Google DeepMindilla hiljattain shakkiin ja muihin lautapeleihin. Kielimallit ovat perinteisesti olleet tosi huonoja pitkällistä päättelyä vaativissa peleissä, mutta me onnistuimme kehittämään suurmestaritason kielimallipohjaisen shakkitekoälyn. Se ei ole vielä ihmistä parempi, mutta minä esimerkiksi en pärjää itse sille ollenkaan, vaikka olen pelannut shakkia SM-tasolla nuorena.

Monet eivät uskoneet, että kielimalleilla on edes mahdollista saada aikaan pitkälle menevää päättelyä. Kriitikot ovat toitottaneet, että mallit eivät osaa pelata edes laillisia siirtoja.

Minua pyydettiin vetämään tätä 15 hengen shakkiprojektia, joka oli teknisesti tosi kiehtova ongelma. Kun hävisin itse ensimmäistä kertaa kielimallillemme tuli tunne, että olemme onnistuneet luomaan jotain itseä suurempaa. Pääsin myös esittelemään sitä Google DeepMindin toimitusjohtajalle.

Yhteystiedot:

Eric Malmi
Vieraileva professori (adjunct professor)
Aalto-yliopisto
eric.malmi@aalto.fi

Uutisia aikaisemmasta tutkimuksesta:

Tutkijat kehittivät koneoppimisalgoritmin, joka oppi räppäämään

Kun verrattiin räppiriimien pituuksia ja esiintymistiheyttä, rap-lyriikkaa tuottava algoritmi DeepBeat oli 21% tehokkaampi kuin ihmisräppärit.

Uutiset
AncestryAI piirtää sukupuita.

AncestryAI-algoritmi piirtää sukupuusi yli 300 vuoden päähän

Sukupuualgoritmi etsii automaattisesti lasten todennäköisimmät vanhemmat ja piirtää näin muodostuneita sukupuita.

Uutiset
ELLIS Institute Finlandin logo, yläpuolella raidallinen Euroopan kartta ja alla moniväriset kirjaimet 'ellis'.

Suomen ELLIS-instituutti on merkittävä tutkimuskeskittymä European Laboratory for Learning and Intelligent Systems-verkostossa, joka edustaa eurooppalaista tekoälyn ja koneoppimisen huippututkimusta.

  • ±Êä¾±±¹¾±³Ù±ð³Ù³Ù²â:
  • Julkaistu:
Jaa
URL kopioitu

Lue lisää uutisia

Henkilö seisoo ulkona syksyllä, yllä harmaa huppari ja vihreä takki. Taustalla puut oransseine lehtineen.
Nimitykset Julkaistu:

Esittelyssä Qi Chen: Luotettava tekoäly tarvitsee algoritmeja, jotka selviävät yllätyksistä

Tekoälyn kehittäjien on keskityttävä sovellusten turvallisuuteen ja oikeudenmukaisuuteen, sillä ne liittyvät suoraan yhteiskuntien luottamukseen ja tasa-arvoon, sanoo tutkija Qi Chen.
Henkilö pukeutuneena vaaleanharmaaseen huppariin seisoo sisätiloissa, taustalla tiiliseinä ja vihreitä kasveja.
Nimitykset, Yliopisto Julkaistu:

Tekoälyn ja ihmisen erimielisyys on tutkijalle jännä arvoitus

Francesco Croce tutkii multimodaalisia perustamalleja, erityisesti niiden hyökkäyksensietokykyä.
Moderni rakennus, jossa värikäs laatoitettu julkisivu, jossa integroitu aurinkopaneeli. Taivas on kirkas ja vaaleansininen.
Mediatiedotteet, Tutkimus ja taide Julkaistu:

Hiilipohjaiset radikaalit ovat tulevaisuuden aurinkokennoteknologiaa

Kansainvälisen tutkimusryhmän löydös on merkittävä askel kohti kevyitä, joustavia ja energiatehokkaita aurinkokennoja.
CEMS alum Maria Sangder
Opinnot Julkaistu:

CEMS-alumni Maria Sangder: Vaikuttaminen on motivoiva periaate, joka on korostunut urallani

Hän on UN Global Network Finlandin toiminnanjohtaja, Fairtrade Finlandin hallituksen puheenjohtaja ja CEMS-opiskelija vuodelta 2009 (NHH/Aalto).