Etika digitálního asistenta: Programujte svého osobního digitálního asistenta opatrně

• Autor:
• jméno autora

  Quantumrun Foresight
• 9. prosince 2021

Shrnutí statistik

Umělá inteligence (AI) vyvolává důležité diskuse o etickém rozvoji a obavách o soukromí. Jak se AI stává stále rozšířenější, přináší nové výzvy v oblasti kybernetické bezpečnosti, které vyžadují přísná opatření na ochranu cenných osobních údajů. Navzdory těmto výzvám slibuje integrace asistentů umělé inteligence méně rušivý technologický zážitek, potenciálně zvyšuje efektivitu a inkluzivitu ve společnosti a zároveň vyžaduje rovnováhu mezi inovacemi a etickými ohledy.

Etický kontext digitálního asistenta

Umělá inteligence (AI) není jen v našich chytrých telefonech nebo chytrých domácích zařízeních, ale dostává se i na naše pracoviště, kde nám pomáhá při plnění úkolů a rozhodování, které byly dříve výhradně doménou lidí. Tento rostoucí vliv AI podnítil dialog mezi technology o etických důsledcích jejího vývoje. Primárním zájmem je, jak zajistit, aby asistenti AI, kteří jsou navrženi tak, aby nám usnadňovali život, byli vyvíjeni způsobem, který respektuje naše soukromí, autonomii a celkovou pohodu.

Microsoft se záměrně rozhodl být transparentní ohledně technologií AI, které vyvíjí. Tato transparentnost se rozšiřuje i na poskytování dalších technologů nástrojů, které potřebují k vytváření vlastních řešení AI. Přístup společnosti Microsoft je založen na přesvědčení, že otevřený přístup k technologii AI může vést k širšímu spektru aplikací a řešení, z nichž bude mít prospěch větší segment společnosti.

Společnost si však také uvědomuje důležitost odpovědného vývoje AI. Firma zdůrazňuje, že ačkoli demokratizace umělé inteligence má potenciál posílit postavení mnoha lidí, je zásadní, aby byly aplikace umělé inteligence vyvíjeny způsoby, které jsou prospěšné pro všechny. Přístup k vývoji umělé inteligence tedy musí představovat rovnováhu mezi podporou inovací a zajištěním toho, aby tato inovace sloužila většímu dobru.

Rušivý dopad 

S tím, jak se digitální asistenti více začleňují do našeho každodenního života, budou mít tito společníci AI přístup k našim osobním informacím, zvykům a preferencím, díky čemuž budou zasvěceni do podrobností, o kterých nemusí vědět ani naši nejbližší přátelé. Proto je klíčové, aby tito digitální asistenti byli naprogramováni s hlubokým porozuměním soukromí. Musí být navrženy tak, aby rozeznaly, které části informací jsou citlivé a měly by zůstat důvěrné a které lze použít ke zlepšení jejich funkčnosti a přizpůsobení zkušeností.

Vzestup osobních digitálních agentů s sebou také přináší nový soubor výzev, zejména v oblasti kybernetické bezpečnosti. Tito digitální asistenti budou úložištěm cenných osobních údajů, což z nich učiní atraktivní cíle pro kyberzločince. V důsledku toho mohou společnosti a jednotlivci investovat do silnějších opatření v oblasti kybernetické bezpečnosti. Tato opatření by mohla zahrnovat vývoj pokročilých metod šifrování, bezpečnější řešení pro ukládání dat a systémy nepřetržitého monitorování, aby bylo možné rychle detekovat a reagovat na jakékoli narušení.

Navzdory těmto výzvám by integrace digitálních asistentů do našich životů mohla vést k méně rušivému technologickému zážitku ve srovnání s chytrými telefony. Digitální asistenti jako Google Assistant, Siri nebo Alexa fungují primárně prostřednictvím hlasových příkazů, čímž nám uvolňují ruce a oči pro jiné úkoly. Tato bezproblémová integrace by mohla vést k efektivnějšímu multitaskingu, což nám umožní dosáhnout více v našem každodenním životě a zároveň snížit riziko nehod způsobených rozdělenou pozorností, jako je používání chytrého telefonu při řízení.

Důsledky etiky digitálních asistentů 

Širší důsledky etiky digitálních asistentů mohou zahrnovat:

• Projekty, systémy a služby umělé inteligence se posouvají vpřed odpovědným způsobem ve prospěch společnosti.
• Technologové vyvíjející produkty umělé inteligence sdílejí široký závazek zajistit, aby asistenti umělé inteligence nebyli naprogramováni s vlastními předsudky a stereotypy. 
• AI, která je vysoce trénovatelná, aby byla důvěryhodná a reagovala na svého uživatele, spíše než aby působila jako nezávislý subjekt.
• Umělá inteligence optimalizovaná tak, aby pochopila, co lidé chtějí, a reagovala předvídatelným způsobem.
• Inkluzivnější společnost, protože tyto technologie mohou poskytovat podporu osobám se zdravotním postižením a umožnit jim vykonávat úkoly, které by jinak mohly považovat za náročné.
• Větší zapojení občanů, protože tyto technologie by mohly být použity k poskytování aktualizací v reálném čase o změnách politik, usnadnění hlasování a povzbuzení aktivnější účasti v demokratickém procesu.
• Zvýšené kybernetické útoky a investice do boje proti těmto útokům.
• Výroba zařízení digitálních asistentů vyžadujících energii a zdroje vede ke zvýšené uhlíkové stopě a digitálním emisím.

Otázky k zamyšlení

• Těšíte se na svého vlastního digitálního asistenta, který může fungovat jako váš stálý společník?
• Myslíte si, že lidé budou svým digitálním asistentům věřit natolik, že se jim svěří?