Apple pausar Siri-program efter avlyssningsskandal

[Nyhetsroboten]

I en kommande uppdatering ska användarna själva få bestämma om utomstående aktörer ska få lov att lyssna på deras konversationer med röstassistenten.

Läs hela artikeln här

[Emihanss]

Sånt blir det bara mer och mer av..

[ronny]

Från macworld.com

Citat

 

Det är dags att möta en hård sanning om maskininlärning och AI: för att bli bättre måste människor vara involverade

 

En vecka efter att en rapport i The Guardian avslöjade att människor i Apples Siri-klassificeringsprogram hörde privat och olaglig aktivitet, har Apple avbrutit programmet för att genomföra en granskning.  Det arbetar också med en programuppdatering för att ge användare möjlighet att välja bort (eller kanske välja bort).

 Apple gav ut ett enkelt uttalande: ”Vi är engagerade i att leverera en stor Siri-upplevelse samtidigt som vi skyddar användarnas integritet.  Medan vi gör en grundlig granskning avbryter vi Siri betyg globalt.  Som en del av en framtida programuppdatering kommer användare dessutom att kunna välja att delta i betygsättningen. ”

 

 Det är rätt sak att göra, men det får mig att undra vad vägen framåt ska vara.  Eftersom de flesta inte inser det, är maskininlärning (ML) och AI byggd på en grund av mänsklig "gradering" och det finns inget bra alternativ i sikte.  Och med Siri som ofta kritiseras för att ha varit ett år eller två bakom sina rivaler kommer det inte att vara lätt för Apple att komma ikapp medan han skyddar vår integritet.

 

Vad handlar detta Siri-graderingsprogram om?  I grund och botten, varje gång du säger "Hey Siri ..." behandlas kommandot som du anger på din enhet men också semi-anonymiserad och skickas upp till molnet.  Några små procent av dessa används för att hjälpa till att träna det neurala nätverket som gör att Siri (och Apples dikteringsfunktion) kan förstå exakt vad du säger.  Någon, någonstans i världen, lyssnar på några av "Hey Siri" -kommandona och noterar om Siri förstod personen korrekt eller inte.

 

 Då justeras maskininlärningsnätverket och omjusteras och omjusteras genom miljoner permutationer.  Förändringarna testas automatiskt mot dessa "graderade" prover tills en ny ML-algoritm ger mer exakta resultat.  Då blir det neurala nätverket den nya baslinjen och processen upprepas.

 

Det finns bara inget sätt att träna ML-algoritmer - för taligenkänning eller fotokänning eller för att avgöra om din säkerhetskamera såg en person eller en bil - utan att en människa utbildade den på detta sätt.  Om det fanns en datoralgoritm som alltid kunde exakt bestämma om AI var rätt eller fel, skulle det vara AI-algoritmen!