Intel Labs heeft grote plannen voor een softwaretool genaamd ControlFlag die kunstmatige intelligentie gebruikt om code te scannen en fouten op te sporen.
Een van die doelen, misschien wel een uitweg in de toekomst, is om het in chippakketten te verwerken als laatste verdedigingslinie tegen foutieve code. Dit zou de informatiestroom via communicatiekanalen veiliger en efficiënter kunnen maken.
Maar dat is een grote 'als', en hangt af van het feit dat veel dingen op hun plaats vallen. Vorige week heeft Intel de tool – ControlFlag genaamd – open source beschikbaar gesteld aan softwareontwikkelaars. De software verdiept zich in de regels code en wijst op fouten die ontwikkelaars vervolgens kunnen oplossen.
Het bedrijf draaide ControlFlag op een eigen stuk interne software van productiekwaliteit met miljoenen regels code. Er werden 104 afwijkingen gevonden, waarvan er één een beveiligingsprobleem betrof. Maar er werden ook 96 valse positieven gevonden
Chipzilla hoopt dat de AI-tool uiteindelijk een geavanceerd systeem wordt dat handmatige verificatie van code vermindert – en hopelijk elimineert – met als doel het kostbare en tijdrovende debug-proces volledig te automatiseren.
“Debuggen bestaat alleen omdat er een miscommunicatie is over onze intentie naar machines. En als we de manier zouden verbeteren waarop we onze intentie tegenover machines uiten, zal het hele veld van debugging verdwijnen, of gewoonweg niet meer bestaan”, zegt Justin Gottschlich, hoofd AI-wetenschapper bij Intel Labs, die de ontwikkeling leidt. van het hulpmiddel, verteld Het register.
Hij vergeleek dat met de verschuiving van handmatige versnellingen naar automatische transmissies in auto's. "Dat komt omdat we er min of meer achter zijn gekomen hoe we de automatische overgang door die versnellingen kunnen doen zonder dat er een mens bij betrokken is", zei Gottschlich.
Een tandje hoger schakelen
Gottschlich zei dat het bedrijf inzag dat het een kogelvrij AI-systeem en een leermodel zou moeten ontwikkelen dat zo nauwkeurig is dat het onbetwist betrouwbare resultaten oplevert op het gebied van codeverificatie. Het leersysteem van ControlFlag evolueert en wordt nauwkeuriger naarmate het meer gegevens opneemt, zei hij.
De nauwkeurigheid van AI-systemen kan onder meer lijden onder modeldrift, waarbij foutieve gegevens die in leersystemen worden ingevoerd de resultaten ontsporen.
In andere gevallen is technologie niet het antwoord. Vorig jaar Walmart gestaakt het gebruik van robots in gangpaden om de inventaris bij te houden nadat bleek dat mensen – in tegenstelling tot AI – betere resultaten produceerden.
Intel's ControlFlag-systeem maakt gebruik van een proces in twee stappen om het anomaliedetectiemodel te genereren, verifiëren en verbeteren. Het deterministische systeem analyseert code, ontleedt informatie zoals de semantische betekenis van code en markeert verdachte elementen.
Het tweede deel is de stochastische kant, waarbij gebruik wordt gemaakt van zelfsupervisie, waarbij het AI-systeem zelfstandig begint te leren, hoe semantische en syntactische informatie uit de code moet worden gecategoriseerd, en wat afwijkend en niet-afwijkend is.
Intel heeft het leermodel van ControlFlag gebouwd via technieken zoals het parseren van open-sourcecode op Github, dat tegenwoordig meer dan 200 miljoen repository's heeft.
“Het leest de code en probeert te onderscheiden: kan ik deze code vertrouwen? En zo ja, wat kan ik dan van deze code leren? Het soort historische gegevens, dat probeert de voorspelling van de nieuwe gegevens te doen... de basisgegevens zijn de broncodeopslagplaatsen,' zei Gottschlich.
Het systeem verschilt van conventionele AI-toepassingen zoals nationale taalverwerking of beeldherkenning, en volgt geen traditioneel systeemontwerp of topologie op hoog niveau waarin het kan worden aangesloten.
“Omdat we geen labels gebruiken, moesten we het hele probleem opnieuw bekijken,” zei Gottschlich.
Vertrouw, maar verifieer
Intel vertrouwt op een concept dat 'semi trust' wordt genoemd, waarbij het bedrijf omgevingsgegevens rond de repository gebruikt om ControlFlag te helpen bepalen of u de gegevens die worden opgenomen wel of niet kunt vertrouwen. Het op sterren gebaseerde beoordelingssysteem op GitHub helpt ControlFlag bijvoorbeeld de populariteit en betrouwbaarheid van code uit een repository af te wegen.
Het bedrijf draaide ControlFlag op een eigen stuk interne software van productiekwaliteit met miljoenen regels code. Er werden 104 afwijkingen gevonden, waarvan er één een beveiligingsprobleem betrof. Maar er werden ook 96 valse positieven gevonden.
“Wat we moeten verbeteren is een aantal valse positieven. Dat is zeker een verbeterpunt om dat ontwikkelaarsvriendelijker te maken, want een percentage van 50 procent fout-positieven is gewoon niet supergroot”, aldus Gottschlich.
Ontwikkelaars kunnen download ControlFlag hier van Github en voer het uit op code. Het werkt op Linux en Mac OS, en Chipzilla werkt aan het toevoegen van Windows-ondersteuning.
Intel besteedt meer middelen aan de ontwikkeling van dit systeem – dat zij machineprogrammering noemen – voor de lange termijn, maar een andere uitdaging is uitzoeken hoe communicatie, machinaal leren en computergebruik zullen evolueren, zei Gottschlich.
Intel ziet ControlFlag mogelijk in chips worden ingebakken om datacommunicatiekanalen efficiënter te maken. Maar daarvoor moet het AI-systeem volwassen worden en zodanig betrouwbaar zijn dat het foutopsporingsproces kan worden geautomatiseerd.
“Op dit moment zit [ControlFlag] voornamelijk in software. Een deel daarvan is dat, naarmate we meer geavanceerde systemen bouwen, sommige van de kerncomponenten, als we ze in hardware kunnen branden, omdat ze zo cruciaal zijn voor machine learning-systemen, we dat waarschijnlijk zullen doen, "zei Gottschlich. ®
Bron: https://go.theregister.com/feed/www.theregister.com/2021/10/25/intel_controlflag/
