AI nám ušetří čas, ale přemýšlet musíme dál sami

Michaela Liegertová se dlouhodobě pohybuje na pomezí vědy, vzdělávání a nových technologií. Původně vystudovaná buněčná a molekulární bioložka patří mezi výrazné hlasy v oblasti smysluplného využívání umělé inteligence ve výzkumu a v akademickém prostředí. Do BTÚ přichází s úkolem pomoci nám AI lépe porozumět, nastavit její bezpečné a praktické používání a ukázat, kde nám může opravdu ušetřit čas nebo otevřít nové možnosti. 

Povídaly jsme si proto o tom, co její nová role přinese zaměstnancům, kde začít a jak k AI přistupovat bez zbytečných obav i bez nekritického nadšení.

Přicházíš k nám s úkolem pomoci kolegyním a kolegům využívat AI smysluplněji. Co by podle Tebe měli pocítit jako první praktickou změnu? Kde jim AI může ušetřit čas nejrychleji?

Moje role by měla být hodně praktická, aby za mnou mohli přijít s konkrétním use-casem a společně jsme vybrali vhodný nástroj, workflow nebo si naopak řekli, kde je potřeba opatrnost. Nejvíce času může AI ušetřit tam, kde dnes zbytečně odčerpává energii rutina, vyplňování a přeformátování dokumentů, příprava reportů a grantových zpráv, převod poznámek do strukturovaného textu, orientace ve výzvách, ale i rutina blízká samotné vědě.

U grantů umí být velmi užitečná třeba při dešifrování požadavků agentury, porovnání draftu s hodnoticími kritérii nebo při simulaci kritického pohledu hodnotitele. AI za nás nemá dělat vědu, měla by nám vracet čas na to, co za nás udělat nemůže: interpretaci, rozhodování, formulaci dobré otázky a vědecký úsudek. Rutinu má smysl delegovat. Odpovědnost ne.

AI dnes umí spoustu věcí, ale ne všechno, co jde technicky udělat, je automaticky dobrý nápad. Jak správně nastavit pravidla, kdy a jak AI využívat, ale zároveň vědět, kde je potřeba opatrnost? Co bys poradila někomu, kdo si není jistý, jestli je ke konkrétnímu úkolu vhodné AI použít?

Pravidla nemá smysl stavět jako dlouhý seznam zákazů, ale jako praktický způsob rozhodování. Úplně první otázka zní: s jakými daty pracujeme? Je to veřejný text, interní dokument, nepublikovaný výsledek, osobní údaj, klinická nebo genetická informace? Teprve potom má smysl vybírat nástroj. U AI totiž platí jednoduché pravidlo: nejdřív data a riziko, potom nástroj.

Druhá otázka je, jaký dopad bude mít výstup. Když AI pomůže se stylistikou běžného e-mailu, riziko je jiné než ve chvíli, kdy navrhuje analýzu, interpretuje data nebo pomáhá formulovat vědecký závěr. Čím blíž je výstup k vědeckému tvrzení nebo institucionálnímu rozhodnutí, tím silnější musí být kontrola.

Třetí otázka zní: dá se výstup ověřit? To je pro vědeckou práci základ. AI může být skvělý pracovní i myšlenkový partner, ale její výstup není pravdivý jen proto, že dobře zní. Ve vědě je potřeba brát výstupy AI jako hypotézy k ověření, jako myšlenkový substrát k vlastnímu kritickému zhodnocení, ne jako hotové závěry.

Prakticky řečeno: u veřejných a nízkorizikových úkolů můžeme být poměrně odvážní. U interních dokumentů a nepublikovaných výsledků už musíme přemýšlet nad prostředím, licencí a nastavením nástroje.

A teď, protože se sama věnuješ tomu, jak AI zapojovat do práce chytře a s rozmyslem, dovolila jsem si malý experiment. Následující tři otázky vznikly s pomocí ChatGPT jako ukázka toho, jak může AI pomoci najít trochu jiný úhel pohledu.

Mluvíš o tom, že AI může vědci vytvořit jakýsi „virtuální expertní tým“. Kdyby si každý z nás měl kolem sebe postavit takový malý AI tým pro běžnou práci, jaké role by v něm podle tebe neměly chybět?

Virtuální expertní tým není jeden chatbot, který všechno ví. Spíš malý orchestr nástrojů a rolí. Jeden nástroj může fungovat jako expert na rešerše a pomoci zmapovat literaturu nebo podklady. Jiný jako editor, který zpřesní text, přeloží ho nebo zjednoduší. Další jako metodický konzultant nebo asistent pro práci s daty a kódem, který pomůže s analýzou, kontrolou tabulek nebo reprodukcí výpočtu.

Role, která by neměla chybět nikdy, je kritik. Běžní chatboti totiž mají tendenci spíš chválit a povzbuzovat. Jsou trénovaní, aby byli příjemní a nápomocní. Pokud si o kritiku uživatel sám neřekne, často nedostane reálně přínosnou zpětnou vazbu. A přitom ve vědě potřebujeme pravý opak, aby nám někdo řekl, kde je argument slabý, jaké alternativní vysvětlení přehlížíme, co není dostatečně podložené a kde si jen vyprávíme hezký příběh. AI se proto musíme umět cíleně ptát na slabá místa, ne jen na návrhy řešení.

U výzkumných projektů by neměl chybět auditor a validátor. Role, které nezávisle prověří, jestli jsou použité metody relevantní, a provedou testy reprodukovatelnosti. A u biologických projektů se do hry dostávají specializované modely pro sekvence, proteiny, molekuly, single-cell data nebo obrazovou analýzu.

Člověk v tomhle týmu nezmizí. Naopak je ještě důležitější. Musí určit otázku, dodat kontext, rozhodnout, čemu věřit, a hlavně nést odpovědnost za výsledek.

Varuješ před erozí expertizy: že když nám AI všechno rychle vysvětlí, můžeme ztrácet hloubku porozumění. Jak poznáme v praxi rozdíl mezi tím, kdy nám AI opravdu pomáhá růst, a kdy už za nás začíná přemýšlet?

Dobrým testem je jednoduchá otázka: rozumíme po použití AI problému lépe než předtím? Pokud ano, AI pomohla zvýšit kompetenci. Pokud je výsledkem jen hladší text, hezčí odpověď nebo působivější prezentace, ale chybí schopnost vysvětlit, proč je to správně, AI začíná přemýšlet místo nás.

Hodně záleží na tom, jak se ptáme. „Udělej to za mě“ je úplně jiný typ použití než „pomoz mi tomu porozumět“, „vysvětli mi postup“, „najdi slabiny“, „navrhni alternativy“ nebo „vyzkoušej mě z toho“. Ve výzkumu je to ještě citlivější. AI dnes dokáže velmi rychle vyrobit hypotézy, grafy, kód, rešerši i interpretaci. To může být užitečné, ale zároveň zrádné, protože plynulý výstup může vytvořit dojem jistoty. AI tu přitom může pomoct i obráceně, donutit nás podívat se na problém z více perspektiv a upozornit na možné slepé skvrny, na alternativy nebo úhly pohledu, které by nás samy nenapadly. Opravdová expertiza se pozná tím, že se nespokojí s první odpovědí: umí výstup ověřit, porovnat s alternativami, znovu spustit analýzu, najít slabé místo a někdy i zahodit atraktivní závěr, který neobstojí. 

AI tedy expertizu nerozvíjí automaticky. Rozvíjí ji tehdy, když nutí klást lepší otázky a důkladněji ověřovat. Oslabuje ji ve chvíli, kdy stačí, že odpověď dobře zní. 

Často mluvíš o transparentnosti a reprodukovatelnosti. V běžné práci ale lidé nebudou psát metodickou přílohu ke každému e-mailu nebo prezentaci. Jak by podle tebe měla vypadat „přiměřená transparentnost“ při používání AI v každodenních úkolech? 

Přiměřená transparentnost znamená říct tolik, aby druhý člověk rozuměl, jak AI ovlivnila výsledek. Nejde o zpověď ani o metodickou přílohu ke každému e-mailu. Když AI jen pomůže s formulací běžné zprávy nebo se stylistikou textu, není potřeba z toho dělat drama.

U důležitějších výstupů by ale měla být role AI dohledatelná a obhajitelná. Je rozdíl, jestli AI jen upravila jazyk, nebo pomohla s rešerší, napsala první verzi části textu, generovala kód, navrhla analýzu, interpretovala data nebo ovlivnila vědecký závěr. Čím víc se AI přiblížila k obsahu, rozhodování nebo vědeckému tvrzení, tím konkrétnější by měl být popis její role.

Prakticky, u běžných nízkorizikových úkolů, stačí zdravý rozum. U grantů, rukopisů, analýz, institucionálních výstupů nebo materiálů, které jdou ven, je dobré mít jednoduchý záznam, jaký nástroj byl použit, k čemu, kdy a co se ověřilo. U analýzy dat k tomu patří i verze modelu a archivovaný kód, aby šel výsledek zopakovat. Vlastně něco jako “laboratorní deník” k tomu, jak do práce vstoupila AI. U vědeckého výstupu nestačí napsat jméno modelu, důležitější je, aby šla dohledat cesta od dat k závěru: odkud data přišla, co z nich AI zpracovala a co ověřil člověk. Transparentnost je podmínka důvěryhodnosti.

A je tu ještě jedna věc. Pokud kolem AI vytvoříme stigma, lidé ji nepřestanou používat. Jen ji přestanou přiznávat. To je pro instituci horší než otevřená, přiměřená a rozumně nastavená pravidla.

Pár slov na závěr

Prakticky vzato, AI má smysl tam, kde zrychlí práci a zároveň nezhorší naši kontrolu nad tím, co tvrdíme. Dobrý postup je přitom jednoduchý, zkoušet ji na úkolech, kde se dá výstup posoudit, dávat jí dost kontextu, vyžadovat kritiku a u všeho, co jde ven nebo se blíží vědeckému závěru, ověřit cestu od dat k tvrzení. Vyrobit text nebo graf dnes svede skoro každý. Rozdíl dělá to, co přijde potom: validace, ověření a ochota říct „tohle ještě nevím, tohle musím zkontrolovat a tohle už dokážu obhájit”.