Skryté klauzuly, ktoré umožnia AI zbierať vaše dáta

Čoraz viac spoločností a sociálnych sietí zbiera dáta o vašom zdravotnom stave, financiách či súkromnom živote. V TITANS objasňujeme, k akým údajom má ešte AI dosah bez toho, aby ste si to uvedomovali a prečo sa oplatí strážiť si svoje súkromie. 

Čo sa stane, keď si ľudia prejdú podmienky používania služby iba za 73 sekúnd? Ušetria síce polhodinu času, ktoré by im čítanie technického žargónu zabralo, no zároveň často umožnia AI zbierať dáta o ich súkromí bez toho, aby o tom vôbec vedeli.

AI totiž používa ako trénovacie dáta neporovnateľne väčšie množstvo informácií než doterajšie technológie, pričom zvykne zbierať aj biometrické údaje, osobné dáta zo sociálnych sietí či informácie o financiách a zdravotnom stave používateľov.

Prečo je strata súkromia problém

Problémový vzťah AI k osobným údajom potvrdili i výskumníci z University College London a Mediterranea University of Reggio Calabria. Ich štúdia dokázala, že AI asistenti vo webových prehliadačoch vo veľkej miere využívajú praktiky sledovania, profilovania a personalizácie, ktoré vyvolávajú vážne obavy o ochranu súkromia.

„Platformy aktualizujú svoje zásady ochrany osobných údajov, čo je trochu podozrivé. V skutočnosti takéto aktualizácie – a to je dôležité – obsahujú ustanovenia, ktoré umožňujú využívanie údajov. V konečnom dôsledku však nevieme, ako spoločnosti a ich inteligentné systémy využívajú naše osobné dáta,“ tvrdí Hervé Lambert z Panda Security.

Najväčšou obavou je transparentnosť. Keďže ľudia nemajú prehľad o tom, čo sa deje s ich údajmi, nemôžu vedieť, či sú porušované ich práva a následne sa nedokážu brániť. Tento nedostatok transparentnosti označil Dr Randazzo z Charles Darwin University za „problém čiernej skrinky“. Okrem toho, spotrebitelia väčšinou prijímajú podmienky bez toho, aby si ich prečítali alebo o nich premýšľali, a to buď kvôli zabezpečeniu kontinuity služby alebo z čírej uponáhľanosti. 

Ak to firmy povolia, k osobným dátam používateľov môžu mať prístup aj tretie strany, ako sú reklamné agentúry, spoločnosti zaoberajúce sa analýzou údajov alebo orgány činné v trestnom konaní so súdnym príkazom. Citlivé údaje tak možno spočiatku získa spoločnosť, ktorej ľudia dôverujú, no ľahko skončia u niekoho, komu by ich dobrovoľne nikdy neodovzdali. Inokedy môžu byť dáta o súkromí predmetom nedovoleného zhromažďovania, využívania, krádeže či náhodného úniku.

Kybernetické útoky môžu vykonávať zločinci, ktorých motiváciou sú peniaze alebo takzvané pokročilé perzistentné hrozby, ktoré zvyčajne pozostávajú z útočníkov podporovaných štátom. Tí získajú prístup do sietí a systémov, kde tajne zbierajú informácie a osobné údaje, aby napokon spôsobili chaos alebo škody. Ďalšími potenciálnymi rizikami sú podľa Hervé Lamberta komerčná a geopolitická manipulácia, vylúčenie, vydieranie a krádež identity.

Sociálne siete toho o vás vedia priveľa

Funkcie AI, ktoré čerpajú údaje z verejných profilov alebo z e-mailov používateľov, zaviedli napríkladMeta (majiteľ Facebooku, Instagramu, Threads a WhatsAppu), Google (pod ktorý spadá i YouTube) a LinkedIn. Iba Google a LinkedIn pritom ponúkajú možnosť tieto AI funkcie vypnúť.

Marc Rivero zo spoločnosti Kaspersky zdôrazňuje riziká, ktoré sú spojené so šírením citlivých informácií a poukazuje na to, ako ich AI získava z WhatsApp: „Aplikácie na súkromné posielanie správ sú pre používateľov jedným z najcitlivejších digitálnych prostredí, pretože obsahujú intímne konverzácie, osobné údaje a dokonca aj dôverné informácie. Ak platforma umožní automatický prístup AI nástroja k týmto správam bez toho, aby získala jasný a výslovný súhlas používateľov, podkopáva to ich dôveru.“

Za nedôveryhodnú sa považuje aj ďalšia sociálna sieť. Keď sa začiatkom roka americké obyvateľstvo dozvedelo, že TikTok US zbiera okrem iných osobných údajov aj dáta o občianstve a imigračnom statuse, prepadli ho obavy. Práve v tom čase totiž prebiehali rozsiahle protesty po celej krajine voči zosilneniu imigračných opatrení prezidenta Donalda Trumpa. Aktivity agentov Imigračného a colného úradu (ICE) viedli k tisíckam zatknutí a viacerým úmrtiam miestnych občanov. Niektorí ľudia sa domnievali, že TikTok buduje databázu imigračného statusu, iní dokonca sľúbili, že si preto vymažú svoje účty.

V tomto prípade však šlo skôr o zlé načasovanie. Táto formulácia podmienok používania sa prvýkrát objavila už okolo augusta 2024 a na verejnosť sa dostala až vtedy, keď prebiehal presun americkej prevádzky TikToku pod nového tamojšieho majiteľa. No hoci update podmienok nesúvisel s protestmi, oplatí sa všimnúť si, že TikTok potichu odstránil svoj záväzok informovať používateľov predtým, ako bude zdieľať ich dáta s orgánmi činnými v trestnom konaní. Navyše sa odmietol vyjadriť k tomu, či ich zdieľa alebo by zdieľal s Ministerstvom vnútornej bezpečnosti (DHS) alebo ICE.

Ďalšia významná zmena v aktualizovaných zásadách siete sa týkala sledovania polohy. Kým predtým sa zhromažďovali iba približné údaje, teraz už TikTok zbiera presné dáta o polohe používateľov. Tí sa údajne môžu z tohto sledovania odhlásiť. Sieť tiež rozšírila svoje oprávnenia na zhromažďovanie informácií o interakciách používateľov s jej AI nástrojmi.

Sarah Perez z TechCrunch upozorňuje na iróniu, že presun sociálnej siete do USA pod nové vlastníctvo nastal kvôli obavám z potenciálneho sledovania používateľov Čínou. Podľa nej sa však teraz Američania viac obávajú, že to bude robiť ich vlastná vláda.

Prípady, kedy boli zneužité osobné dáta

Spoločnosť Clearview AI bez súhlasu používateľov zhromaždila zo sociálnych médií a iných internetových stránok miliardy osobných fotografií. Tie následne použila pre svoj softvér na rozpoznávanie tváre, ktorý bol pôvodne sprístupnený širokej škále podnikateľov a orgánom činným v trestnom konaní. Keď sa škandál prevalil, spoločnosť sa stiahla z Veľkej Británie a viacerých ďalších európskych trhov.

Ďalšia kauza sa týkala Cambridge Analytica, ktorá spolupracovala s volebným tímom Donalda Trumpa a stála aj za víťaznou brexitovou kampaňou. Spoločnosť pod zámienkou osobnostných kvízov pozbierala milióny facebookových profilov amerických voličov. Získané údaje o nich využila na vytvorenie výkonného softvéru, ktorý potom pomocou hyperpersonalizovaných politických reklám ovplyvňoval voľby v USA v roku 2016. Napriek tomu, že koncom roka 2015 sa o tom Facebook dozvedel, v tom čase na to neupozornil používateľov a podnikol len obmedzené kroky na zabezpečenie súkromných informácií.  

Verejnosť pobúrili aj nové podmienky používania WeTransfer, jednej z najznámejších platforiem na zdieľanie súborov v kreatívnom priemysle. Na ich základe získala značka rozsiahle práva, s ktorými mohla obsah nahraný používateľmi reprodukovať, upravovať, komerčne využívať a trénovať s ním modely strojového učenia. Pod verejným tlakom spoločnosť rýchlo ustúpila a problémovú klauzulu vymazala. Podobný scenár sa zopakoval aj v prípade Adobe, Zoom, Dropbox, Slack a ďalších SaaS platforiem.  

Ďalší prešľap sa „podaril“ spoločnosti Strava, ktorá ľuďom umožňuje zaznamenávať svoje cvičenie a zdieľať ho s ostatnými. V roku 2018 zverejnila mapu s vizualizáciou údajov, ktorá zobrazuje všetky aktivity zaznamenané jej používateľmi. Touto cestou nechtiac odhalila aj utajené informácie o umiestnení a personálnom obsadení vojenských základní a špionážnych stanovíšť po celom svete.

Administratíva Donalda Trumpa minulý rok podporila spoločnosť Palantir, ktorá buduje rozsiahlu centralizovanú dátovú platformu. Tá má prepojiť citlivé záznamy obyvateľov USA z kľúčových agentúr, vrátane daňového úradu IRS, sociálneho zabezpečenia, imigračných databáz a ďalších. Cieľom je pomocou AI v reálnom čase analyzovať vzorce správania, upozorňovať na potenciálne hrozby a podporovať rozhodovanie v oblasti verejnej bezpečnosti a odhaľovania podvodov.

Niektorí odborníci to nazývajú najrozsiahlejšou civilnou sledovacou infraštruktúrou v histórii USA. Organizácie na ochranu občianskych slobôd sa obávajú nielen toho, kam údaje smerujú, ale aj kto ich kontroluje, ako sa používajú a čo sa stane, ak sú nesprávne. Bez jasného verejného dohľadu alebo právnych zábran by sa mohli použiť na politické účely, cielené sledovanie alebo dokonca na represívne opatrenia voči prisťahovalcom.  

Neviditeľná cena za služby

Mnohé nástroje využívajúce AI nepotrebujú, aby osoba vykonala akúkoľvek priamu činnosť na to, aby o nej mohli zhromažďovať údaje. Smart zariadenia, ako sú fitness náramky a hodinky zbierajú informácie aj prostredníctvom biometrických senzorov, rozpoznávania hlasu a sledovania polohy. Domáce smart reproduktory neustále čakajú na príkaz na svoje aktivovanie, a tak zachytávajú všetky rozhovory v ich okolí. Kým predtým mali používatelia zariadení Amazon Echo možnosť obmedziť zber osobných údajov, od minulého roka sa všetky hlasové nahrávky štandardne odosielajú do cloudu Amazonu. Používatelia smart asistentky Alexa tak už nemajú možnosť túto funkciu vypnúť.

Mnoho ľudí sa zas obracia na chatboty s otázkami, o ktorých by nezvládali rozprávať s inou osobou, napríklad s intímnymi, trestnoprávnymi, zdravotnými či medziľudskými témami. Chatboty však v skutočnosti nikdy nie sú úplne zadarmo. Aj keď je používateľom povedané, že ich údaje budú použité na trénovanie modelu, zriedka sú informovaní o potenciálnych rizikách alebo iných spôsoboch, akými by mohli byť ich údaje zneužité.

S progresom technológií sa musí vyvíjať aj naše chápanie osobnej identity a vlastníctva. Právne rámce by nemali brániť pokroku, ale mali by nájsť rovnováhu medzi ochranou práv jednotlivcov a podporou technologického pokroku. Hoci údaje používateľov by mali chrániť zákony a nariadenia, ako je Všeobecné nariadenie o ochrane údajov v Európskej únii (GDPR) či Kalifornský zákon o ochrane súkromia spotrebiteľov, legislatívny proces často zaostáva za rýchlosťou vývoja a mierou využívania AI. Momentálne sa odporúča predpokladať, že akékoľvek zariadenie alebo platforma využívajúca AI zbiera údaje o vašich vstupoch, správaní a vzorcoch.

Ako uviedol mediálny teoretik Douglas Rushkoff – ak je služba zadarmo, vy ste produktom.

Ako chrániť svoje dáta

„Organizácie sú zraniteľnejšie voči kybernetickým hrozbám. Dôvodom je nárast geopolitického napätia, hospodárska nestabilita a čoraz zložitejšie prevádzkové prostredie spolu s útokmi využívajúcimi AI,“ hovorí Agustín Muñoz-Grandes, riaditeľ Accenture Security v Španielsku a Portugalsku. „Kybernetická bezpečnosť už nemôže byť len last-minute fix. Mala by byť integrovaná už od fázy návrhu každej iniciatívy využívajúcej AI.“

Nemusíte byť dátový analytik, aby ste porozumeli, aké významné kroky sa oplatí zvážiť. Nižšie sme zozbierali 7 odporúčaní, pomocou ktorých môžete lepšie chrániť vaše súkromné údaje:

1. Prečítajte si obchodné podmienky, pretože je v nich často uvedené, ako budú vaše údaje použité a či budú poskytnuté tretím stranám. Pri nedostatku transparentnosti vyžadujte od poskytovateľov, aby vám zrozumiteľným spôsobom vysvetlili, aké práva si nárokujú, ako sa údaje využívajú a čo je zakázané.
2. Ak vaša firma používa nástroje ako WeTransfer, Zoom alebo Slack na zdieľanie citlivého obsahu, prehodnoťte mieru, akou sa vystavujete riziku. Alternatívou sú európske riešenia, ktoré kladú dôraz na súkromie, ako je Wire, Pydio, Nextcloud a ďalšie.
3. Snažte sa obmedziť zdieľanie dátumov narodenia, telefónnych čísel a adries, aby ste minimalizovali šírenie osobných údajov.
4. Chatbotovi prezraďte len to, čo by ste povedali pred hľadiskom obrovského štadiónu. Okrem toho využívajte viacero chatbotových služieb, aby ste rozložili svoju stopu a žiadna o vás „nevedela“ všetko.
5. Kľúčové sú nastavenia ochrany súkromia v aplikáciách a prehliadačoch. Obmedzením prístupu k polohe, mediálnym súborom a kontaktom znižujete rozsah zberu údajov.
6. Využívajte nástroje na anonymizáciu, napríklad službu VPN, proxy či šifrované aplikácie na zasielanie správ.
7. Vytvárajte si silné heslá a používajte dvojfaktorovú autentifikáciu. Pravidelne sa informujte o nových hrozbách a odporúčaniach odborníkov.

Ak aj vy premýšľate nad zvýšením ochrany citlivých údajov vo vašej firme, všetky užitočné informácie o freelance IT špecialistoch a špecialistkách nájdete tu.

Pokiaľ ste však freelancer či freelancerka, ktorí chcú chrániť firmy pred sofistikovanými útokmi hackerov, prezrite si špičkové projekty v našej ponuke alebo sa prihláste na odber IT projektov na mieru.