Google tilbyder at hjælpe andre med den vanskelige etik AI

Tjenester til at omfatte spotting racebias, udvikle retningslinjer omkring AI-projekter.

Google offers to help others with the tricky ethics of AI

Virksomheder betaler cloud-computing udbydere som Amazon, Microsoft og Google store penge for at undgå at drive deres egen digitale infrastruktur. Googles cloud-division vil snart opfordre kunderne til at outsource noget mindre håndgribeligt end CPU’er og diskdrev – rettighederne og uret ved at bruge kunstig intelligens.

Virksomheden har planer om at lancere nye AI etiske tjenester inden udgangen af året. I første omgang vil Google tilbyde andre råd om opgaver såsom at spotte racemæssig bias i computer vision systemer eller udvikle etiske retningslinjer, der styrer AI-projekter. På længere sigt kan virksomheden tilbyde at revidere kundernes AI-systemer for etisk integritet og ansvar for etik rådgivning.

Googles nye tilbud vil teste, om en lukrativ, men stadig mere mistroisk industri kan sætte skub i sin forretning ved at tilbyde etiske pejlemærker. Virksomheden er en fjern tredjedel på markedet for cloud computing bag Amazon og Microsoft, og den positionerer sin AI-ekspertise som en konkurrencemæssig fordel. Hvis det nye initiativ lykkes, kan det skabe et nyt buzzword: EaaS, for etik som en tjeneste, modelleret efter cloud-industri mønter såsom SaaS, for software som en service.

Google har lært nogle AI etik lektioner på den hårde måde-gennem sine egne kontroverser. I 2015 undskyldte Google og blokerede appen Fotos fra at registrere gorillaer, efter at en bruger havde rapporteret, at tjenesten havde anvendt denne etiket på billeder af ham med en sort ven. I 2018 protesterede tusindvis af Google-medarbejdere mod en Pentagon-kontrakt kaldet Maven, der brugte virksomhedens teknologi til at analysere overvågningsbilleder fra droner.

Kort efter udgav virksomheden et sæt etiske principper for brug af sin AI-teknologi og sagde, at det ikke længere ville konkurrere om lignende projekter, men det udelukkede ikke alt forsvarsarbejde. I samme år, Google erkendte at teste en version af sin søgemaskine designet til at overholde Kinas autoritære censur og sagde, at det ikke ville tilbyde ansigtsgenkendelse teknologi, som rivaler Microsoft og Amazon havde i årevis, på grund af risikoen for misbrug.

Googles kampe er en del af en bredere beregning blandt teknologer, at AI kan skade samt hjælpe verden. Ansigtsgenkendelse systemer, for eksempel, er ofte mindre præcise for sorte mennesker og tekst software kan styrke stereotyper. Samtidig er lovgivere, lovgivere og borgere blevet mere mistænksomme over for teknologiens indflydelse på samfundet.

En dybere undersøgelse

Som reaktion herpå har nogle virksomheder investeret i forsknings- og gennemgangsprocesser,der skal forhindre, at teknologien går af sporet. Microsoft og Google siger, at de nu gennemgår både nye AI-produkter og potentielle tilbud for etiske bekymringer, og de har afvist forretning som følge heraf.

Tracy Frey, der arbejder på AI strategi på Googles cloud division, siger de samme tendenser har fået kunder, der er afhængige af Google for kraftfulde AI til at bede om etisk hjælp, også. “Teknologiens verden skifter til at sige ikke “Jeg vil bygge det, bare fordi jeg kan”, men “Skal jeg?”, siger hun.

Google har allerede hjulpet nogle kunder, såsom den globale bankgigant HSBC, med at tænke over det. Nu er det sigter inden udgangen af året til at lancere formelle AI etiske tjenester. Frey siger den første vil sandsynligvis omfatte kurser om emner såsom hvordan man kan få øje på etiske spørgsmål i AI-systemer, svarende til en, der tilbydes Google-medarbejdere, og hvordan man udvikler og gennemføre AI etiske retningslinjer. Senere kan Google tilbyde konsulenttjenester til gennemgang eller revision af kunde-AI-projekter, for eksempel for at kontrollere, om en udlånsalgoritme er forudindtaget over for personer fra visse demografiske grupper. Google har endnu ikke besluttet, om det vil opkræve betaling for nogle af disse tjenester.

Google, Facebook og Microsoft har alle nyligt udgivet tekniske værktøjer, ofte gratis, at udviklere kan bruge til at kontrollere deres egne AI-systemer for pålidelighed og retfærdighed. IBM lancerede et værktøj sidste år med en “Check fairness”-knap, der undersøger, om et systems output viser potentielt bekymrende korrelation med attributter som etnicitet eller postnummer.

At gå et skridt videre for at hjælpe kunderne med at definere deres etiske grænser for AI kunne rejse etiske spørgsmål af sine egne. “Det er meget vigtigt for os, at vi ikke lyder som det moralske politi,” siger Frey. Hendes team arbejder gennem, hvordan man kan tilbyde kunderne etisk rådgivning uden at diktere eller påtage sig ansvaret for deres valg.

“Juridisk tvunget til at tjene penge”

En anden udfordring er, at en virksomhed, der søger at tjene penge fra AI, måske ikke er den bedste moralske mentor for at begrænse teknologien, siger Brian Green, direktør for teknologietik ved Markkula Center for Applied Ethics på Santa Clara University. “De er juridisk tvunget til at tjene penge, og selv om etik kan være forenelig med det, kan det også medføre nogle beslutninger om ikke at gå i den mest etiske retning,” siger han.

Frey siger, at Google og dets kunder alle er tilskyndet til at implementere AI etisk, fordi at være bredt accepteret teknologien skal fungere godt. “Succesfuld AI er afhængig af at gøre det omhyggeligt og eftertænksomt,” siger hun. Hun peger på, hvordan IBM for nylig trak sin ansigtsgenkendelsestjeneste tilbage midt i landsdækkende protester over politiets brutalitet mod sorte mennesker. det var tilsyneladende foranlediget til dels af arbejde som Gender Shades projektet, som viste ansigtsanalyse algoritmer var mindre præcise på mørkere hudtoner. Microsoft og Amazon hurtigt sagde, at de ville sætte deres eget salg til de retshåndhævende myndigheder, indtil mere regulering var på plads.

I sidste ende kan tilmelding af kunder til AI etiske tjenester afhænge af overbevisende virksomheder, der henvendte sig til Google til at bevæge sig hurtigere ind i fremtiden, at de rent faktisk bør bevæge sig langsommere.

I slutningen af sidste år lancerede Google en ansigtsgenkendelsestjeneste, der er begrænset til berømtheder, der primært er rettet mod virksomheder, der har brug for at søge eller indeksere store samlinger af underholdningsvideo. Berømtheder kan fravælge, og Google dyrlæger, som kunderne kan bruge teknologien.

Den etiske gennemgang og design processen tog 18 måneder, herunder konsultationer med borgerlige rettigheder ledere og fastsættelse af et problem med uddannelse data, der forårsagede reduceret nøjagtighed for nogle sorte mandlige skuespillere. På det tidspunkt Google lancerede tjenesten, Amazons berømthed anerkendelse service, som også lader celebs fravælge, havde været åben for alle i mere end to år.