Zní to jako znepokojivá budoucnost, ale ve skutečnosti je to problém už dneška. Umělá inteligence, na kterou se lidé čím dál víc spoléhají, a i například když si píší životopisy a motivační dopisy, zřejmě nevědomky znevýhodňuje ženy.
Podle nové studie vědců z Německa a USA dostávají ženy od populárních jazykových modelů, jako je například i asi nejznámější ChatGPT, horší rady než muži. Výzkumný tým otestoval odpovědi tří velkých jazykových modelů a zjistil, že ve více než 85 % případů byly návrhy pro muže ambicióznější, více zaměřené na úspěch a s větším důrazem na vlastní schopnosti. A to už je opravdu výrazný rozdíl, který nelze přehlédnout.
Méně odvážné a méně cílevědomé rady
Co to ale konkrétně v praxi znamená? Když žena požádala umělou inteligenci o pomoc s napsáním žádosti o zaměstnání, často dostala texty, které byly spíše zdrženlivější, méně sebevědomé a také méně asertivní. U mužů naopak návrhy častěji obsahovaly formulace, které vyzdvihovaly jejich kvality a také potenciál, a povzbuzovaly je ucházet se i o náročnější pozice.
V praxi to ve výsledku může znamenat, že muži budou díky těmto radám působit při výběrových řízeních ambiciózněji a rozhodněji – zatímco ženy naopak skromněji a méně soutěživě. A to i přesto, že by mohly mít stejné nebo dokonce lepší předpoklady pro danou práci.
Riziko pro rovné příležitosti
Autoři dané studie varují, že tento problém má zásadní dopad na rovné příležitosti na pracovním trhu. Čím více se lidé budou spoléhat na umělou inteligenci při psaní životopisů, tím více se může nenápadná nerovnost prohlubovat. A to hlavně proto, že většina uživatelů bere doporučení od AI téměř jako hotovou věc, kterou není potřeba jakkoliv rozporovat, aniž by přemýšleli nad tím, jestli by šlo text napsat jinak, a to mnohem lépe.
Podle americké studie nešlo přehlédnout ani to, že umělá inteligence upřednostňovala bělochy před černochy.
Vědci volají po změně
Řešení? Podle odborníků by měly společnosti, které jazykové modely vyvíjejí, zajistit větší transparentnost, a především provádět důkladnější testování, zda jejich systémy diskriminačně nenadržují určité skupině uživatelů. Jen tak lze zajistit, aby AI pomáhala opravdu všem stejně – a neprohlubovala nerovnosti, které se společnost dlouhodobě snaží odstranit.

Lorenzo Lamas se pošesté rozvádí. Odpadlík sice zestárl a přišel o hřívu, ale v Praze ukázal, že má stále šmrnc
Z mého pohledu je tedy patrné, že je potřeba se zamyslet nad tím, jakým způsobem každý z nás na umělou inteligenci spoléhá. Nejednou se ukázalo, že v prosbě o radu či odpověď například model ChatGPT “pochlebuje” a snaží se s dotyčnou osobou za každou cenu souhlasit.
Co je vlastně Chatbot?
Chatboti jsou programy navržené k tomu, aby vedli konverzace podobné lidským prostřednictvím textu nebo chatu. Najdeme je například v zákaznické podpoře, jako virtuální asistenty v telefonech či chytrých domácnostech, při vyhledávání informací nebo i pro zábavu na sociálních sítích. Někteří jsou založení jen na jednoduchých pravidlech a předem nastavených otázkách a odpovědích, takže dokážou reagovat jen na omezený počet scénářů.
Pokročilejší chatboti využívají umělou inteligenci a strojové učení, díky čemuž rozumí přirozenému jazyku, analyzují kontext a neustále se zlepšují na základě předchozích interakcí. Tyto AI chatboty dokáží vést plynulé rozhovory a generovat odpovědi, které se přizpůsobují konkrétní situaci, což z nich dělá stále užitečnější pomocníky v mnoha oblastech.

Modrý drak je krásný, ale i nebezpečný. Nyní se znovu objevil, a to u Mallorky
Zdroj:br.de, ardaudiothek.de, cigionline.org, washington.edu