KI-belyning: Bypassende kunsmatige intelligensiedoelwitte pas by menslike waardes

• Author:
• Author naam

  Quantumrun Foresight
• 25 Januarie 2023

Kunsmatige intelligensie (KI)-belyning is wanneer 'n KI-stelsel se doelwitte ooreenstem met menslike waardes. Maatskappye soos OpenAI, DeepMind en Anthropic het spanne navorsers wie se uitsluitlike fokus is om vantrelings te bestudeer vir verskillende scenario's waarin dit kan gebeur.

KI-belyningskonteks

Volgens 'n 2021 Universiteit van Cornell-navorsingstudie het verskeie studies getoon dat gereedskap of modelle wat deur algoritmes geskep is, vooroordeel vertoon wat afkomstig is van die data waarop hulle opgelei is. Byvoorbeeld, in natuurlike taalverwerking (NLP), is uitgesoekte NLP-modelle wat op beperkte datastelle opgelei is, gedokumenteer wat voorspellings maak gebaseer op skadelike geslagstereotipes teen vroue. Net so het ander studies bevind dat algoritmes wat op gepeuterde datastel opgelei is, tot rasbevooroordeelde aanbevelings gelei het, veral in polisiëring.

Daar is baie voorbeelde waarin masjienleerstelsels slegter gevaar het vir minderhede of groepe wat aan veelvuldige nadele ly. Veral outomatiese gesigsanalise en gesondheidsorgdiagnostiek werk gewoonlik nie baie goed vir vroue en mense van kleur nie. Wanneer kritieke stelsels wat op feite en logika in plaas van emosie gebaseer moet wees, in kontekste soos die toekenning van gesondheidsorg of onderwys gebruik word, kan hulle meer skade aanrig deur dit moeiliker te maak om die redenasie agter hierdie aanbevelings te identifiseer.

Gevolglik skep tegnologiefirmas KI-belyningspanne om daarop te fokus om algoritmes regverdig en menslik te hou. Navorsing is noodsaaklik om die rigting van gevorderde KI-stelsels te verstaan, sowel as die uitdagings wat ons in die gesig staar namate KI-vermoëns groei.

Ontwrigtende impak

Volgens Jan Leike, hoof van KI-belyning by OpenAI (2021), gegewe dat KI-stelsels eers in die 2010's bekwaam geword het, is dit verstaanbaar dat die meeste KI-belyningsnavorsing teorie-swaar was. Wanneer uiters kragtige KI-stelsels in lyn gebring word, is een van die uitdagings wat mense in die gesig staar dat hierdie masjiene oplossings kan skep wat te ingewikkeld is om te hersien en te bepaal of dit eties sin maak.

Leike het 'n rekursiewe beloningsmodellering (RRM)-strategie uitgedink om hierdie probleem op te los. Met RRM word verskeie "helper" KI's geleer om 'n mens te help om te evalueer hoe goed 'n meer komplekse KI vaar. Hy is optimisties oor die moontlikheid om iets te skep waarna hy verwys as 'n "belynings-MVP." In aanvangsterme is 'n MVP (of minimum lewensvatbare produk) die eenvoudigste moontlike produk wat 'n maatskappy kan bou om 'n idee uit te toets. Die hoop is dat KI eendag ooreenstem met menslike prestasie in die navorsing van KI en die belyning daarvan met waardes, terwyl dit ook funksioneel is.

Terwyl toenemende belangstelling in KI-belyning 'n netto positief is, dink baie ontleders in die veld dat baie van die "etiek"-werk by toonaangewende KI-laboratoriums net openbare betrekkinge is wat ontwerp is om tegnologiemaatskappye goed te laat lyk en negatiewe publisiteit te vermy. Hierdie individue verwag nie dat etiese ontwikkelingspraktyke binnekort 'n prioriteit vir hierdie maatskappye sal word nie.

Hierdie waarnemings beklemtoon die belangrikheid van interdissiplinêre benaderings vir waardebelyningspogings, aangesien dit 'n relatief nuwe area van morele en tegniese ondersoek is. Verskillende takke van kennis behoort deel te wees van 'n inklusiewe navorsingsagenda. Hierdie inisiatief wys ook op die behoefte vir tegnoloë en beleidmakers om bewus te bly van hul sosiale konteks en belanghebbendes, selfs al word KI-stelsels meer gevorderd.

Implikasies van KI-belyning

Wyer implikasies van KI-belyning kan die volgende insluit: 

• Kunsmatige intelligensie-laboratoriums huur uiteenlopende etiekrade om toesig te hou oor projekte en voldoen aan etiese KI-riglyne. 
• Regerings skep wette wat vereis dat maatskappye hul verantwoordelike KI-raamwerk indien en hoe hulle beplan om hul KI-projekte verder te ontwikkel.
• Verhoogde kontroversies oor die gebruik van algoritmes in werwing, openbare toesig en wetstoepassing.
• Navorsers word uit groot KI-laboratoriums afgedank weens botsing van belange tussen etiek en korporatiewe doelwitte.
• Meer druk vir regerings om gevorderde KI-stelsels te reguleer wat beide ongelooflik kragtig is, maar moontlik menseregte kan skend.

Vrae om op kommentaar te lewer

• Hoe kan ondernemings aanspreeklik gemaak word vir die KI-stelsels wat hulle skep?
• Wat is die ander potensiële gevare as daar KI-wanbelyning is?