Forscher von IBM Security haben eine verblüffende neue Bedrohung in der künstlichen Intelligenz aufgedeckt: die Fähigkeit, Live-Gespräche durch eine als „Audio-Jacking“ bekannte Technik zu manipulieren.
Mithilfe generativer KI und Deepfake-Audio-Technologie kann diese Methode gesprochene Wörter in Echtzeit abfangen und verändern, was beispiellose Risiken in der digitalen Kommunikation mit sich bringt.
Lies auch: KI-Deepfake-Erkennung macht Fortschritte angesichts wachsender Täuschungsherausforderungen
Aufdeckung der Bedrohung durch Audio-Jacking
Audio-Jacking funktioniert durch die Verarbeitung von Live-Audio von Zwei-Wege-Kommunikationen, wie z. B. Telefonanrufen, und die Suche nach bestimmten Schlüsselwörtern oder Phrasen. Wenn diese Auslöser erkannt werden, greift die KI ein und ersetzt authentisches Audio durch eine manipulierte Deepfake-Version, bevor es sein Ziel erreicht. Eine atemberaubende Abbildung Der Kern der Technik stammt von IBM-Forschern, die während eines Gesprächs gesprochene Bankkontoinformationen unbemerkt veränderten.
Audio-Jacking: Verwendung generativer KI zur Verzerrung von Live-Audio-Transaktionen: Der Aufstieg der generativen KI, einschließlich Text-to-Image, Text-to-Speech und Large Language Models (LLMs), hat unsere Arbeit und unser Privatleben erheblich verändert. Während diese Fortschritte… https://t.co/GR6AyVACZX pic.twitter.com/Ucw7tNeQCE
— Schah Scheich (@shah_sheikh) 1. Februar 2024
Die Leichtigkeit, mit der ein Proof-of-Concept für diesen Angriff entwickelt werden kann, ist beunruhigend. Die Forscher stellten fest, dass die größte Herausforderung nicht darin bestand, KI zu erstellen, sondern in den technischen Details der Live-Audioaufzeichnung und -verarbeitung. Diese einfache Entwicklung stellt eine deutliche Abweichung von den traditionellen Erwartungen dar, bei denen ein solcher Aufwand erhebliches Fachwissen in mehreren Bereichen der Informatik erfordert hätte.
„Der Aufbau dieses PoC war überraschend und erschreckend einfach. Wir haben die meiste Zeit damit verbracht, herauszufinden, wie wir Audio vom Mikrofon erfassen und an die generative KI weiterleiten können.“
In diesem Schema ist die Rolle von Generative KI ist kritisch. Mit nur drei Sekunden der Stimme einer Person kann die Technologie einen überzeugenden Klon erstellen, um bei Bedarf legitime Deepfakes zu erstellen. Diese über APIs verfügbare Fähigkeit weist auf einen beunruhigenden Trend im Demokratisierungsprozess fortschrittlicher Manipulationstools hin.
„Heutzutage benötigen wir nur drei Sekunden der Stimme einer Person, um sie zu klonen und mithilfe einer Text-to-Speech-API authentische gefälschte Stimmen zu generieren.“
Auswirkungen und mögliche Missbräuche
Die Auswirkungen von Audiojacking gehen jedoch über den bloßen Finanzbetrug hinaus. Eine solche Technologie ist in der Lage, in Echtzeit zu zensieren und Live-Übertragungen wie Nachrichten und politische Reden unbemerkt zu verändern. Diese Fähigkeiten gefährden die Integrität von Informationen und haben tiefgreifende Auswirkungen auf die Demokratie und das Vertrauen der Öffentlichkeit.
Da die Hürde für einen Audio-Jacking-Angriff niedrig ist, wurde die Zahl ausgefeilter Social-Engineering- oder Phishing-Angriffe deutlich reduziert. Diese Leichtigkeit wirft dann Probleme hinsichtlich der Ausbreitung solcher Angriffe auf, was die aktuellen Sicherheitsmaßnahmen in Frage stellt und neue Abwehrmechanismen erfordert.
„Die Reife dieses PoC würde in erster Linie ein erhebliches Risiko für die Verbraucher bedeuten … Je raffinierter dieser Angriff ist, desto größer ist das Netz der Opfer, das er auslösen könnte.“
Das Phänomen der Audio-Überbrückung unterstreicht ein umfassenderes Problem innerhalb der KI-Entwicklung: die Doppelnatur von generative Technologien. Einerseits sind sie eine Quelle unbegrenzter Möglichkeiten für Innovation und Kreativität; Andererseits sollte ihr missbrauchtes Potenzial nicht außer Acht gelassen werden. Der Vorfall wirft eine entscheidende Frage auf: Wie kann die Gesellschaft die Vorteile der KI nutzen und sich gleichzeitig vor ihren dunkleren Anwendungen schützen?
Navigieren durch die Zukunft der KI-Sicherheit
Angesichts der sich verändernden Landschaft digitaler Bedrohungen ist die Identifizierung von Audio-Jacking durch IBM Security eine wichtige Warnung, wachsam zu sein und die Cybersicherheit zu modernisieren. Die Entwicklung von Gegenmaßnahmen, einschließlich innovativer Erkennungsalgorithmen und wirksamerer Verschlüsselungstechniken, ist für die Bekämpfung solch raffinierter Bedrohungen von entscheidender Bedeutung.
Darüber hinaus zeigt diese Offenlegung, dass ethische Fragen von wesentlicher Bedeutung sind KI-Forschung und Entwicklung. Die Festlegung von Regeln und Benchmarks für eine KI-verantwortungsvolle Nutzung ist von entscheidender Bedeutung, um den Gefahren solch leistungsstarker Technologien zu begegnen.
- SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
- PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
- PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
- PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
- PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
- Quelle: https://metanews.com/deepfake-ai-audio-takes-over-live-discussions/
- :hast
- :Ist
- :nicht
- $UP
- 1
- 11
- 6
- 7
- 8
- a
- Fähigkeit
- Konto
- über
- Adressierung
- advanced
- gegen
- AI
- Algorithmen
- verändert
- an
- machen
- Bienen
- APIs
- Anwendungen
- SIND
- künstlich
- künstliche Intelligenz
- AS
- At
- Attacke
- Anschläge
- Audio-
- Audiotechnologie
- Authentic
- verfügbar
- Bank
- Bankkonto
- Barriere
- BE
- war
- Bevor
- Sein
- Benchmarks
- Vorteile
- Beyond
- breiteres
- aber
- by
- Aufrufe
- CAN
- Fähigkeiten
- fähig
- Erfassung
- Zensur
- Herausforderungen
- herausfordernd
- geändert
- bekämpfen
- Kommunikation
- Kommunikation
- Kompromiss
- Computer
- Computerwissenschaften
- erheblich
- KUNDEN
- Gespräch
- Gespräche
- überzeugend
- könnte
- Erstellen
- Kreativität
- kritischem
- Strom
- Internet-Sicherheit
- Gefahren
- dunkler
- Täuschung
- Deepfakes
- Militär
- Demand
- Demokratie
- Demokratisierung
- Reiseziel
- erkannt
- Entdeckung
- Entwicklung
- digital
- Bekanntgabe
- Diskussionen
- Dual
- im
- erleichtern
- Einfache
- Effekten
- Anstrengung
- Verschlüsselung
- Entwicklung
- essential
- ethisch
- Evolution
- Erwartungen
- Expertise
- Experten
- Fälschung
- Felder
- Revolution
- Finanzbetrug
- Finden Sie
- Aussichten für
- Betrug
- für
- Zukunft
- Zukunft der KI
- erzeugen
- generativ
- Generative KI
- Go
- persönlichem Wachstum
- Pflege
- Geschirr
- Haben
- Ultraschall
- Hilfe
- aber
- HTTPS
- IBM
- Login
- Auswirkungen
- in
- Zwischenfall
- Einschließlich
- Information
- Innovation
- innovativ
- Integral
- Integrität
- Intelligenz
- Problem
- Probleme
- IT
- SEINE
- nur
- Schlüsselwörter
- bekannt
- Landschaft
- Sprache
- grosse
- legitim
- leben
- Leben
- suchen
- Sneaker
- niedrige Barriere
- manipuliert
- Manipulation
- Reife
- Maßnahmen
- Mechanismen
- Methode
- Mikrofon
- für
- modernisieren
- mehr
- vor allem warme
- Natur
- Need
- Netto-
- Neu
- News
- bekannt
- of
- on
- EINEM
- einzige
- or
- Andere
- UNSERE
- übrig
- Teil
- persönliche
- Phänomen
- Phishing
- Telefon
- Anrufe
- Sätze
- zentrale
- Plato
- Datenintelligenz von Plato
- PlatoData
- PoC
- Punkte
- politisch
- Möglichkeiten
- Potenzial
- größte treibende
- Prozessdefinierung
- Verarbeitung
- produziert
- tiefgreifende
- Eingabeaufforderungen
- vorausgesetzt
- Öffentlichkeit
- das Vertrauen der Öffentlichkeit
- Frage
- wirft
- lieber
- Erreicht
- Lesen Sie mehr
- echt
- Echtzeit
- Einspielung vor
- Reduziert
- raffiniert
- representiert
- Forscher
- Revealed
- Enthüllt
- Rise
- Risiko
- Risiken
- Rollen
- Ohne eine erfahrene Medienplanung zur Festlegung von Regeln und Strategien beschleunigt der programmatische Medieneinkauf einfach die Rate der verschwenderischen Ausgaben.
- Sicherung
- Schema
- Wissenschaft
- Sekunden
- Sicherheitdienst
- Sicherheitsmaßnahmen
- Einstellung
- mehrere
- Scheich
- VERSCHIEBUNG
- sollte
- Signal
- signifikant
- bedeutend
- Social Media
- Soziale Technik
- Gesellschaft
- anspruchsvoll
- Quelle
- spezifisch
- Reden
- verbrachte
- gesprochen
- Verbreitung
- erschreckend
- Shritte
- Atemberaubende
- so
- erstaunlich
- nimmt
- Technik
- Techniken
- Technologies
- Technologie
- Text-to-Speech
- zur Verbesserung der Gesundheitsgerechtigkeit
- Das
- Die Zukunft
- ihr
- dann
- Diese
- vom Nutzer definierten
- fehlen uns die Worte.
- Bedrohung
- Bedrohungen
- nach drei
- Durch
- So
- Zeit
- zu
- Werkzeuge
- traditionell
- Transaktionen
- Trend
- was immer dies auch sein sollte.
- Vertrauen
- Unterstrichen
- unbegrenzt
- beispiellos
- Anwendungsbereich
- -
- Verwendung von
- Version
- Opfer
- Stimme
- STIMMEN
- Warnung
- wurde
- we
- wann
- welche
- während
- WHO
- breiter
- mit
- .
- ohne
- Worte
- Arbeiten
- Werk
- würde
- Zephyrnet