Microsoft ønsker at sikre, at vi ikke bliver ofre for morderiske AI

MITRE Corporation og tech giganter frigive rammer for at holde os sikkert fra futuristiske AI trusler

AI
(Billede kredit: Shutterstock)

Enhver bekymret over truslen om en Skynet-esque stigning af maskinerne kan være i stand til at hvile lidt lettere efter udgivelsen af nye beskyttelsesforanstaltninger designet til at undgå en potentiel AI opstand.

Den nonprofit MITRE Corporation har allieret sig med 12 top teknologi virksomheder, herunder folk som Microsoft, IBM og Nvidia til at lancere Adversarial ML Threat Matrix.

Gruppen siger, at systemet er en åben ramme skabt til at hjælpe sikkerhed analytikere spot, alarm, reagere på og løse trusler rettet mod machine learning (ML) systemer.

ML-matrix

Microsoft siger, at frigivelsen var motiveret af en fortsat vækst i antallet af angreb mod kommercielle ML sytems rundt om i verden. Virksomheden undersøgte et udvalg af 28 store virksomheder, der fandt, at næsten alle stadig er uvidende om den trussel, som kontradiktorisk machine learning kan udgøre, med femogtyve ud af de 28 siger, at de ikke har de rigtige værktøjer på plads til at sikre deres ML-systemer.

For at hjælpe med at berolige og rådgive sådanne organisationer, den kontradiktoriske ML Threat Matrix ser ud til at hjælpe med at styrke sikkerhedsteams til at forsvare sig mod angreb på ML-systemer.

Matrix indeholder en række tidligere sårbarheder og modstanderadfærd spottet af Microsoft og MITRE gennem årene, samt en lang række af Microsofts ekspertise inden for sikkerhedssektoren.

“Vi fandt også, at når de angriber et ML-system, angribere bruger en kombination af “traditionelle teknikker” som phishing og lateral bevægelse sammen med kontradiktoriske ML teknikker,” Microsoft sagde i et blog-indlæg.

Den kontradiktoriske ML Threat Matrix GitHub repository er åben nu for virksomheder interesseret i at lære mere.

“Når det kommer til Machine Learning sikkerhed, barriererne mellem offentlige og private bestræbelser og ansvar er udvisket; udfordringer i den offentlige sektor som national sikkerhed vil kræve samarbejde mellem private aktører lige så meget som offentlige investeringer,” bemærkede Mikel Rodriguez, direktør for Machine Learning Research, MITRE.

“Så for at hjælpe med at løse disse udfordringer er vi hos MITRE forpligtet til at samarbejde med organisationer som Microsoft og det bredere samfund om at identificere kritiske sårbarheder på tværs af forsyningskæden for maskinlæring. Denne ramme er et første skridt i retning af at hjælpe med at bringe lokalsamfund sammen for at sætte organisationer i stand til at tænke over de nye udfordringer med at sikre maskinlæringssystemer mere holistisk.”