„Generatívna UI môže výrazne podporiť výskum, ale jej použitie si vyžaduje transparentnosť a zodpovednosť. Cieľom týchto usmernení je zachovať vedeckú integritu a zachovať dôveru verejnosti vo vedu uprostred rýchleho technologického pokroku. Vyzývam vedeckú komunitu, aby sa k nám pridala pri premene týchto usmernení na referenciu pre európsky výskum.“

Iliana Ivanova, Eurokomisárka pre inovácie, výskum, kultúru, vzdelávanie a mládež

Európska komisia spolu s krajinami Európskeho výskumného priestoru predložila usmernenia o zodpovednom využívaní generatívnej umelej inteligencie (ďalej len „UI“) vo výskume. Princípy tvoriace rámec nových usmernení sú založené na existujúcich rámcoch ako je Európsky kódex etiky a integrity výskumu a Etické usmernenia pre dôveryhodnú UI, ktoré vypracovala skupina expertov na vysokej úrovni pre umelú inteligenciu.

Usmernenia sa zameriavajú na jednu konkrétnu oblasť UI využívanú vo výskumnom procese a tou je generatívna UI. Je dôležité, aby vedecká komunita používala túto technológiu zodpovedným spôsobom s cieľom využiť jej pozitívnu úlohu pri zlepšovaní výskumných postupov.

Cieľom usmernení je stanoviť pokyny pre zodpovedné používanie generatívnej UI a rovnako byť podporným nástrojom pre orgány financujúce výskum, výskumné organizácie a výskumných pracovníkov vrátane tých, ktorí sa uchádzajú o podporu z Európskeho rámcového programu pre výskum a inovácie.

UI transformuje výskum, zefektívňuje vedeckú prácu a urýchľuje objavovanie. Zatiaľ čo generatívne nástroje UI ponúkajú rýchlosť a pohodlie pri vytváraní textu, obrázkov a kódu. Výskumníci musia mať na pamäti, že technológia prináša aj obmedzenia vrátane plagiátorstva, odhaľovania citlivých informácií alebo inherentných predsudkov v modeloch.

Prehľad dôležitých súčastí usmernení pre výskumníkov:

• Zodpovednosť za vedecký výstup – zachovávať kritický prístup k používaniu výstupov produkovaných generatívnou UI;
• Transparentné používanie generatívnej UI - podrobne uvádzať, ktoré generatívne nástroje umelej inteligencie boli použité vo výskumných procesoch. Odkaz na nástroj môže zahŕňať názov, verziu, dátum atď. a spôsob, akým bol použitý a ovplyvnil výskumný proces;
• Rešpektovanie súkromia, dôveryhodnosti a práv duševného vlastníctva pri zdieľaní citlivých a chránených informácií s nástrojmi UI - chrániť nezverejnenú/citlivú prácu a dbať na to, aby nebola nahratá do online systému UI, pokiaľ neexistujú záruky, že údaje nebudú znovu použité; neposkytovať osobné údaje tretích strán online generatívnym systémom UI;
• Pri používaní generatívnej umelej inteligencie rešpektovať platnú národnú, európsku a medzinárodnú legislatívu - najmä výstup produkovaný generatívnou UI môže byť obzvlášť citlivý vo vzťahu k ochrane práv duševného vlastníctva a osobných údajov.
• Zdržať sa zásadného používania generatívnych nástrojov UI v citlivých činnostiach, ktoré by mohli ovplyvniť iných výskumníkov alebo organizácie (napríklad vzájomné hodnotenie, hodnotenie návrhov výskumu atď.).

Prehľad dôležitých súčastí usmernení pre výskumné organizácie:

• Propagovať, usmerňovať a podporovať zodpovedné používanie generatívnej UI vo výskumných aktivitách - poskytovať podporu a usmernenia na zabezpečenie dodržiavania etických a právnych požiadaviek; školiť o správnom používaní technológie;
• Aktívne monitorovať vývoj a používanie generatívnych systémov UI v rámci svojich organizácií – poskytovať odporúčanie a spätné väzby do vnútra svojich organizácií, sledovať vývoj technológie a jej použitie;
• Odkazovať na tieto usmernenia alebo ich integrovať do vnútorných smerníc – usmernenia ako základ pre diskusiu so svojimi výskumnými pracovníkmi a zainteresovanými stranami o používaní generatívnej UI;
• Zabezpečovať primeranú úroveň kybernetickej bezpečnosti.

Prehľad dôležitých súčastí usmernení pre organizácie financujúce výskum:

• Propagovať a podporovať zodpovedné používanie generatívnej UI vo výskume – podpora výskumných činností , ktoré zodpovedne, eticky a s ohľadom na vnútroštátne právne predpisy, právne predpisy EÚ a medzinárodné právne predpisy využívajú generatívnu UI;
• Preskúmať používanie generatívnej UI v interných procesoch – využívanie UI na činnosti súvisiace s riadením hodnotenia a hodnotenia bez toho, aby ohrozili dôvernosť obsahu a spravodlivosť procesu;
• Monitorovať neustáli vývoj – podporovať a financovať školiace a vzdelávacie programy pre etické a zodpovedné používanie UI vo vedeckovýskumnej činnosti.

Generatívna UI sa neustále vyvíja a preto aj tieto usmernenia nie sú nemenné, ale budú sa pod vplyvnom spätnej väzby od vedeckej komunity a zainteresovaných strán aktualizovať. Zároveň je vhodné zvýrazniť, že usmernenia nevznikli ako nástroj na utlmenie využívania UI vo vede a výskume. Vznikli z dôvodu, aby sa predchádzalo netransparentnému a nebezpečnému využívaniu UI a aby sa aj vďaka nim podporovalo zodpovedné používanie generatívnej umelej inteligencie.

Zdroj: EK, Science Business

Foto: Unsplash+

VA