„Hanyagság lenne nem felkészíteni a diákokat az MI használatára”

Mi járatban van Magyarországon és a BME-n?

A győri Széchenyi István Egyetem meghívására jöttem Magyarországra. Az egyetem díszdoktori címet adományozott nekem, így volt szerencsém részt venni a diplomaosztón. A feleségem korábban nem látta Budapestet, én viszont igen, és nagyon tetszett. Ezért azt mondtam neki, töltsünk el itt néhány napot, mielőtt visszamennénk New Yorkba. Amikor véglegesítettük a tervet, szóltam a BME oktatójának, Szilágyi Botondnak, hogy Budapestre jövök, ő pedig megkérdezte, tartanék-e előadást. Örömmel vállaltam egy előadást kutatási területemről, a mesterséges intelligenciáról.

A vegyipar mely területein használják jelenleg sikeresen a mesterséges intelligenciát?

Ahogy az előadásomban említettem, már negyven éve csendben alkalmazzák a mesterséges intelligenciát a vegyészmérnöki tudományokban. Az utóbbi öt évben sokkal nagyobb nyilvánosságot kapott mindenhol, és a gépi tanulást, a mesterséges intelligencia jelenleg népszerű változatát ma már az ágazat minden területén használják: tervezés, vezérlés, optimalizálás, folyamatbiztonság. Jómagam a gyógyszergyártásbeli alkalmazásán dolgozom, ott is nagy munka folyik. És ez még csak a kezdet; még mindig ott tartunk, hogy nem mindenhol működik egységesen jól. A következő öt-tíz év nagyon izgalmas lesz.

Mik lehetnek a fő akadályai az MI széles körű elterjedésének az iparágban?

Potenciálisan három területen vannak kihívások. Az egyik a nagy nyelvi modellek jelenlegi működése. Bizonyos nem tudományos és nem mérnöki területeken meglehetősen jól teljesítenek, de a mélyebb tudományos, mérnöki területeken megmutatkoznak a hiányosságaik. A másik probléma a hype: az iparban túl sokat ígérnek arról, hogy ezek a rendszerek mire képesek. Próbálom tudatosítani az emberekben, hogy még nem tudnak mindent jól csinálni, ezért nem szabad hinni a nagy felhajtásnak. Én már átéltem két hasonlót, a ‘80-as években a szakértői rendszerek, a ‘90-es években pedig a neurális hálózatok sokat ígértek, de nem teljesítettek eleget. Most is hasonló történik. A harmadik tényező pedig az, hogy még nincs elég vegyészmérnökünk, aki mesterséges intelligenciával foglalkozik, így szükség van bizonyos mértékű készségfejlesztésre. Ez pedig időbe fog telni.

Mennyire megbízható a gépi tanulás a vegyipari termékfejlesztés szempontjából?

Ez a konkrét alkalmazástól és az adatok minőségétől függ. Ahol sok megbízható adat áll rendelkezésre, ott általában jobban teljesít. A gond az, hogy míg a gépi tanuló szoftverek képesek megtanulni mondjuk, sakkozni azzal a módszerrel, hogy több milliószor játszanak és a legtöbbször kudarcot vallanak, addig a vegyiparban ez a legtöbb esetben nem lehetséges.

Egy üzemet nem tudok milliószor felrobbantani, hogy közben megtanuljam, hogyan lehet jobban irányítani.

Sőt, az iparágban dolgozó barátaim azt mondták, nem engednék, hogy akár csak egyszer is felrobbantsam az üzemet! Tehát más módszereket kell kitalálnunk. Itt jön a képbe a hibrid mesterséges intelligencia. Az alapelvekről meglévő tudásunkat a szimbolikus MI-technikák segítségével össze kell házasítani a gépi tanulással. Ezen dolgozik a kutatócsoportom.

Mi a helyzet a fekete doboz-problémával egy olyan környezetben, ahol különösen fontos az átláthatóság?

Itt is a hibrid megoldással érdemes élni. Jelenleg a mesterségesintelligencia-rendszerek nem tudják megmagyarázni a válaszaikat, tehát nem átlátható a működés, noha annak megmagyarázhatósága régóta fontos kihívás. A megoldás egyik módja, hogy több tudást teszünk bele, és itt jönnek a képbe a szimbolikus MI-technikák. Különösen a mérnöki alkalmazás esetében van erre szükség.

Segíthet az MI csökkenteni az ipar környezetre gyakorolt hatását?

Sokan dolgoznak a fenntarthatósági problémákon. Az olyan rendszerek, mint a nagy nyelvi modellek, nem környezetbarátak, mert sok energiát fogyasztanak. Az MI azonban a fenntarthatóság erősítésére is használható, és ez végül is segíteni fog.

És hogyan változtatja meg az MI a mérnökök szerepét? El tudja képzelni, hogy egy idő után kiváltja az emberi fejlesztőket?

A következő tíz évben szerintem még mindig szükségünk lesz emberekre a felügyelethez, de aligha kell majd túl sok lélekölő munkát végezniük. Így talán a felére is csökkenhet a szükséges mérnökök, operátorok száma. Ezen a tízéves időszakon túl nehéz jósolni.

Ön szerint hogyan kellene beépíteni a mesterséges intelligenciát a mérnökképzésbe?

Negyven éve tanítok mesterséges intelligenciát vegyészmérnököknek. Egészen egy évvel ezelőttig úgy adtam programozási házi feladatokat, hogy nem volt olyan eszköz, amely segíthetett volna a hallgatóimnak megírni. Aztán elérhetővé vált a Chat GPT, amely nagyon sokat tud segíteni a programozásban. Ott volt a dilemma: megtiltsam a diákjaimnak a használatát, vagy ne? Rájöttem, hogy amikor lediplomáznak, az őket alkalmazó cégeket nem fogja érdekelni, hogyan oldják meg a problémát, ha jól, gyorsan és olcsón oldják meg.

Hogy a Chat GPT-t kérdezik meg vagy a nagymamájukat – a cégnek mindegy, neki megoldások kellenek.

Ezért arra jutottam, nem lenne értelme megtiltani a diákoknak a Chat GPT használatát, sőt hanyagság lenne nem felkészíteni őket rá. Azt mondtam tehát: „Használhatjátok a Chat GPT-t házi feladatok megoldására, de látni akarom a teljes dialógust”. Szeretném ugyanis tudni, milyen kérdéseket tesznek fel, azokra milyen válaszokat ad a Chat GPT, abból mi helyes, mi helytelen, és hogyan alkalmazkodnak mindehhez a diákok a kérdések módosításával. Ez nagyon hasznos volt annak megértésében, hogy a diákok miként lépnek kapcsolatba az MI-vel, és az mire képes. Jelenleg így használom ezeket az eszközöket, de lehet, hogy öt év múlva már másképp, hiszen minden változik.

Mit tanult a diákok és a Chat GPT párbeszédeiből?

A legfontosabb dolog, amit észrevettem, hogy akik jól teljesítettek a kurzusomon, azok megértették, miről szól a kérdés, minek a megoldását várom tőlük, és mire képes a Chat GPT. Okosabb kérdéseket tettek fel, jobban irányították velük a szoftvert. A többiek tanácstalanabbak voltak, ez világosan látszott a dialógusokból. Szóval olyan volt, mintha interjúztattam volna őket.

Mit gondol, gyökeresen át fogja alakítani a mesterséges intelligencia a gyógyszeripari termékfejlesztés folyamatát?

Igen, ez tíz, talán öt éven belül megtörténik. Többé-kevésbé minden iparágban végbemegy ez a forradalom, a gyógyszeripar sem kivétel.

Fel vagyunk erre készülve?

Nem. Nem vagyunk felkészülve egyénenként, pláne nem vagyunk felkészülve mint társadalom. A politikusaink valószínűleg a legkevésbé felkészültek, és a jogrendszerünk sem az. Új jogszabályok kellenek.

Melyek a legfontosabb etikai és biztonsági kihívások?

Többé-kevésbé köztudott, hogy a magánszféránkkal sokan vissza fognak élni, beleértve a kormányokat is. Ezért van szükség új szabályozásokra. A posztdoktori témavezetőm, Geoffrey Hinton, aki tavaly decemberben Nobel-díjat kapott a mesterséges intelligenciával kapcsolatos munkájáért, azt mondja, 

úgy kell kezelnünk ezeket a rendszereket, mint a vírusokat.

Nem véletlen, hogy rengeteg előírás szabályozza a biológiailag veszélyes anyagok használatát, tárolását. Ő tehát a fenyegetést a nukleáris és biológiai fegyverekéhez hasonlítja. Nem feltétlenül értek egyet minden részletében azzal, amit mond, de támogatom a kockázatok tudatosítását, hogy az emberek odafigyeljenek erre.

Kérnek öntől mint a szakterület szakértőjétől tanácsot politikusok vagy szabályozó hatóságok?

Egyre több ilyen felkérés érkezik, de gyakran nem vagyok benne biztos, hogy el kell fogadnom, mert nem feltétlenül tudom a válaszokat. Mindig igyekszem ezt tisztázni.

Hasznos iránymutatásokat azért bizonyára tud adni.

Igen, felhívhatom a figyelmet egy-egy fontos tényezőre. De semmi újat nem fogok mondani ahhoz képest, amire Geoff Hinton és a kollégái figyelmeztetnek. Amikor kérdeznek, általában rájuk mutatok: menjetek, hallgassátok meg őket, akik évek óta beszélnek erről.

gp

Az interjú előtt Venkatasubramanian professzor Charaf Hassannal, a BME rektorával találkozott Szilágyi Botond, a Kémiai és Környezeti Folyamatmérnöki Tanszék tudományos munkatársa társaságában: