V poslední době se umělá inteligence stala velmi užitečným nástrojem, který lidem zjednodušuje a zrychluje práci. Nabízí nám celou řadu možností, jak s ní pracovat a kde ji můžeme využít. Pokud se však rozhodneme řešit s její pomocí jakýkoli problém, musíme jí svěřit určité informace. Je bezpečné svěřit tato data systému umělé inteligence? Do jaké míry můžeme důvěřovat odpovědím, které nám poskytla?
Vzhledem k tomu, že umělá inteligence je relativně nová a neustále se vyvíjející technologie, jsou s ní spojena určitá bezpečnostní rizika, na která je důležité upozornit. Využití umělé inteligence v práci může přinést velké výhody, ale také mnoho problémů. Odpovědnost za data, která do těchto systémů vkládáme, neseme my. Proto je třeba vždy důkladně zvážit, co do tohoto systému zpřístupníme.
V předchozím článku na téma Důvěryhodná umělá inteligence jsme popsali, jak by tyto systémy měly být sestaveny a čemu musí podléhat, aby byly důvěryhodné. Zde si naopak můžete přečíst seznam bezpečnostních opatření a zásad, jak s umělou inteligencí pracovat bezpečně:
- Údaje a informace. Do těchto systémů neposílejte ani nevkládat osobní, citlivé, důvěrné ani žádné jiné údaje, které jsou pro nás důležité. Tyto systémy je ukládají a učí se z nich. Zároveň se k nim však může dostat externí uživatel, což může způsobit nežádoucí únik dat.
- ChatGPT jako internetový vyhledávač. Nepoužívejte ChatGPT k vyhledávání aktuálních informací. V současné době tento chatbot (počítačový program, s nímž je možné vést konverzaci) nemá přístup k internetu a využívá pouze databázi z roku 2021, což velmi omezuje jeho schopnost generovat aktuální informace.
- ChatGPT a důvěryhodné odpovědi. Odpovědi, které ChatGPT vygeneruje, je vždy nutné ověřit. Přestože pracuje s rozsáhlou databází informací, některé odpovědi si dokáže vymyslet a formulovat je velmi věrohodně. Na druhou stranu dokáže velmi jednoduše, srozumitelně a především správně popsat obecné a základní otázky v nejrůznějších tématech. Na druhou stranu v případě konkrétních a specifických otázek byla zaznamenána jeho chybovost. Dokonce i po upozornění na tuto chybu ji zopakoval. Jelikož čerpá z velkého množství zdrojů, produkuje odpovědi, které nemají pouze jeden zdroj, což může být v případě práce problémem.
- ChatGPT a zdroje. Je třeba kontrolovat a ověřovat zdroje, které ChatGPT poskytne jako relevantní. Pokud uživatel požádá o poskytnutí zdrojů k danému tématu, může nastat situace, že zdroj daný problém zcela nezahrnuje nebo je citace nesprávně uvedena. Zároveň však zdroje, které uvede, mohou být smyšlené a nemusí vůbec existovat, což v případě jejich použití může uživateli způsobit velké problémy. Další možností je citovat ChatGPT jako zdroj, a to při dodržení všech zásad citování. Využívání tohoto zdroje se však nedoporučuje, protože nepracuje s aktuálními informacemi.
- Inovativní myšlenky a výstupy generované umělou inteligencí.S inovativními myšlenkami, které umělá inteligence navrhne, je třeba zacházet opatrně. Není zaručeno, že nápady a myšlenky, které skutečně poskytne, jsou nové a inovativní. Je třeba si uvědomit, že mnoho výstupů může být chráněno autorskými právy a jejich využití může způsobit problémy. To se netýká pouze textu, ale také grafických výstupů (videa, obrázky a fotografie). Zároveň může být kód, který umělá inteligence vygeneruje, škodlivý a představovat riziko pro zařízení.
Mnoho podniků využívá ve své práci systémy umělé inteligence. Je důležité vědět, jakým způsobem je vhodné a správné tyto systémy používat. Přinášíme několik doporučení, která mohou pomoci při využívání umělé inteligence v podniku.
- Důležité je vzdělávání zaměstnanců v této oblasti. Úplný zákaz používání těchto systémů nemusí být nejvhodnějším řešením, pokud je možné je využít k vhodnému účelu a správným způsobem. Zároveň je při používání těchto systémů dobré vypracovat směrnici, která stanoví, v jakých případech je možné umělou inteligenci využívat.
- Vypracovat analýzu rizik, aby se předešlo možným rizikům a nebezpečím, která by potenciálně mohla nastat. I když není možné předvídat všechna rizika, je správné se připravit na širokou škálu možností.
- V případě, že organizace již má systémy umělé inteligence implementované do své infrastruktury a aktivně je využívá, je nutné zabránit jejich přístupu k citlivým údajům. Mohlo by totiž dojít k nežádoucímu úniku dat, což může pro společnost znamenat značné problémy.
Existuje mnoho možností, jak můžeme umělou inteligenci v organizaci využívat. Například ji použít jako internetový vyhledávač, pokud však nejsou zapotřebí aktuální informace. Rovněž k sestavování textů a příspěvků na sociálních sítích, pokud neobsahují citlivé údaje o společnosti, či jako zdroj inspirace pro řešení konkrétního problému. Navzdory všem rizikům, která jsou s těmito systémy spojena, přinášejí také mnoho výhod a právě na nich je třeba stavět. Každý podnik či organizace by měla sama zvážit, do jaké míry těmto systémům důvěřuje a jaké důsledky bude mít jejich používání.
Zdroj:
Bezpečnostní zásady při používání systémů s umělou inteligencí
