Intel Labs har store planer for et softwareværktøj kaldet ControlFlag, der bruger kunstig intelligens til at scanne gennem kode og udvælge fejl.
Et af disse mål, måske langt ude i fremtiden, er at bage det ind i chippakker som en sidste forsvarslinje mod defekt kode. Dette kunne gøre informationsstrømmen på kommunikationskanaler mere sikker og effektiv.
Men det er et stort "hvis" og betinget af, at mange ting falder på plads. I sidste uge frigav Intel værktøjet – kaldet ControlFlag – til softwareudviklere. Softwaren porerer over kodelinjer og påpeger fejl, som udviklere derefter kan rette.
Virksomheden kørte ControlFlag på et proprietært stykke intern produktionskvalitetssoftware med millioner af linjer kode. Den fandt 104 anomalier, hvoraf den ene var en sikkerhedssårbarhed. Men den fandt også 96 falske positiver
Chipzilla håber, at AI-værktøjet i sidste ende bliver et sofistikeret system, der reducerer – og forhåbentlig eliminerer – manuel verifikation af kode, med det formål fuldstændig at automatisere den dyre og tidskrævende fejlretningsproces.
"Debugging eksisterer kun, fordi vi har en fejlkommunikation af vores hensigt til maskiner. Og hvis vi skulle forbedre den måde, hvorpå vi udtrykker vores intentionalitet over for maskiner, vil hele fejlretningsområdet forsvinde, eller [vil] bare [ikke] eksistere længere,« Justin Gottschlich, ledende AI-forsker ved Intel Labs, som leder udviklingen af værktøjet, fortalte Registret.
Han sammenlignede det med skiftet fra manuelle gear til automatiske gearkasser i biler. "Det er fordi, vi på en måde har fundet ud af, hvordan man laver den automatiske overgang gennem disse gear, uden at mennesket er involveret," sagde Gottschlich.
Skifter et hak op
Gottschlich sagde, at firmaet erkendte, at det ville være nødvendigt at udvikle et skudsikkert AI-system og en læringsmodel, der er så nøjagtig, at den producerer utvivlsomt pålidelige resultater ved kodeverifikation. ControlFlags læringssystem udvikler sig og bliver mere præcist, efterhånden som det indtager flere data, sagde han.
Nøjagtigheden af AI-systemer kan lide af årsager, der inkluderer modeldrift, hvor fejlagtige data, der føres ind i læringssystemer, kaster resultater af sporet.
I andre tilfælde er teknologien ikke svaret. Sidste år Walmart afbrydes brugen af robotter i gangene til at spore lagerbeholdningen, efter at den fandt ud af, at mennesker – i modsætning til AI – producerede bedre resultater.
Intels ControlFlag-system bruger en to-trins proces til at generere, verificere og forbedre anomali-detektionsmodellen. Det deterministiske system analyserer kode, analyserer information som den semantiske betydning af kode og markerer mistænkelige elementer.
Den anden del er den stokastiske side ved hjælp af selvovervågning, hvor AI-systemet begynder at lære af sig selv, og hvordan man kategoriserer semantisk og syntaktisk information fra koden, og hvad der er unormalt og ikke-anomalt.
Intel byggede ControlFlags læringsmodel ved hjælp af teknikker, herunder parsing af open source-kode på Github, som i dag har mere end 200 millioner repositories.
"Den læser koden og forsøger at skelne, er denne kode jeg kan stole på? Og hvis det er, hvad kan jeg så lære af denne kode? Den slags historiske data, der forsøger at forudsige de nye data... basisdataene er kildekodelagrene,” sagde Gottschlich.
Systemet adskiller sig fra konventionelle AI-applikationer såsom national sprogbehandling eller billedgenkendelse og følger ikke et traditionelt systemdesign eller topologi på højt niveau, som det kunne tilsluttes.
"Fordi vi ikke bruger etiketter, er vi nødt til at genoverveje hele problemet," sagde Gottschlich.
Tillid, men bekræft
Intel er afhængig af et koncept kaldet "semi-tillid", hvor virksomheden bruger miljødata omkring depotet til at guide ControlFlag til, hvorvidt du kan stole på de data, der bliver indtaget. For eksempel hjælper det stjernebaserede ratingsystem på GitHub ControlFlag med at afveje populariteten og pålideligheden af kode fra et lager.
Virksomheden kørte ControlFlag på et proprietært stykke intern produktionskvalitetssoftware med millioner af linjer kode. Den fandt 104 anomalier, hvoraf den ene var en sikkerhedssårbarhed. Men den fandt også 96 falske positiver.
»Det, vi skal arbejde på at forbedre, er en række falske positive. Det er bestemt et forbedringsområde for at gøre det mere udviklervenligt, fordi [en] 50 procent falsk positiv rate er bare ikke supergodt," sagde Gottschlich.
Udviklere kan download ControlFlag fra Github her og køre det på kode. Det virker på Linux og Mac OS, og Chipzilla arbejder på at tilføje Windows-understøttelse.
Intel dedikerer flere ressourcer til udviklingen af dette system - som det kalder maskinprogrammering - på lang sigt, men en anden udfordring er at finde ud af, hvordan kommunikation, maskinlæring og computere vil udvikle sig, sagde Gottschlich.
Intel ser, at ControlFlag muligvis bliver omdannet til chips for at gøre datakommunikationskanaler mere effektive. Men for det skal AI-systemet modnes og være pålideligt til det punkt, at fejlretningsprocessen kan automatiseres.
"Lige nu er [ControlFlag] primært i software. En del af det er, efterhånden som vi bygger mere avancerede ... systemer, nogle af kernekomponenterne, hvis vi kan brænde dem ind i hardware, fordi de er så kritiske for maskinlæringssystemer, vil vi sandsynligvis gøre det," sagde Gottschlich. ®
Kilde: https://go.theregister.com/feed/www.theregister.com/2021/10/25/intel_controlflag/
