Yapay zekayı korumak için yapay zekaya güvenebilir misiniz?

Artık yapay zeka, BT mimarisinin ana akımına doğru ilerlerken, kurumun kontrolü dışındaki veri kaynaklarına maruz kaldığında güvende kalmasını sağlama yarışı sürüyor. Yapay zeka, veri merkezinden buluta ve uç noktaya kadar çok çeşitli güvenlik açıklarıyla ve giderek daha karmaşık hale gelen tehditlerle mücadele etmek zorunda kalacak ve bunların neredeyse tamamı yapay zekanın kendisi tarafından yönlendirilecek.

Bu arada yapay zekanın modern yaşam tarzımızı desteklemek için hayati önem taşıyan sağlık, ulaşım, finans ve diğer sektörlerin omurgasını sağlayacağı göz önüne alındığında, riskler giderek daha yüksek olacak. Dolayısıyla kuruluşlar yapay zekayı bu dağıtılmış mimarilere çok fazla dahil etmeye başlamadan önce, yapay zekanın yeterince korunabileceğinden emin olmak için bir anlığına duraklamak faydalı olabilir.

Güven ve şeffaflık

VentureBeat ile yakın zamanda yapılan bir röportajda, IBM'in yapay zeka şefi Seth Dobrin o binaya dikkat çekti Yapay zeka veri zincirinin tamamında güven ve şeffaflık Eğer işletme yatırımından maksimum değer elde etmeyi umuyorsa bu çok önemlidir. Virüsler ve kötü amaçlı yazılımlar tarafından ele geçirildiğinde yalnızca kapatılabilen veya verileri çalınabilen geleneksel mimarilerin aksine, yapay zekaya yönelik tehlike çok daha büyüktür çünkü bir uç noktadan aldığı verilerle kendisini yeniden eğitmesi öğretilebilir.

Dobrin, "Son nokta, veri toplayan bir REST API'sidir" dedi. “Yapay zekayı zehirlenmeden korumamız gerekiyor. Yapay zeka uç noktalarının güvenli olduğundan ve yalnızca performans açısından değil, önyargı açısından da sürekli izlendiğinden emin olmalıyız."

Dobrin, bunu gerçekleştirmek için IBM'in kuruluş üzerinde çalıştığını söyledi. rakip sağlamlık Watson gibi platformların sistem düzeyinde. Karar verme süreçlerini açıklamak için diğer yapay zeka modellerini sorgulayan ve ardından bu modelleri normlardan sapmaları durumunda düzelten yapay zeka modellerini uygulayarak, kuruluş günümüzün hızla ilerleyen dijital ekonomisinin hızında güvenlik duruşlarını koruyabilecektir. Ancak bu, zararlı kodları avlamak ve engellemekten, sıradan veriler gibi görünen şeylere yapay zekanın tepkisini izlemeye ve yönetmeye doğru bir düşünce değişimini gerektirir.

Şimdiden, AI'yı kodunu zararlı şekillerde değiştirmeye ikna etmek için verilerin manipüle edildiği birçok ustaca yol hakkında raporlar dolaşmaya başlıyor. Jim DempseyUC Berkeley Hukuk Fakültesi'nde öğretim görevlisi ve Stanford Siber Politika Merkezi'nin kıdemli danışmanı olan UC Berkeley Hukuk Fakültesi, makine öğrenimi algoritmalarına konuşma gibi gelen ancak insanlara konuşmaya benzeyen ses yaratmanın mümkün olduğunu söylüyor. Görüntü tanıma sistemleri ve derin sinir ağları, bazen sadece tek bir pikselin kaydırılmasıyla, insan gözünün algılayamayacağı bozulmalarla yoldan çıkabilmektedir. Ayrıca bu saldırılar, failin modele veya onu eğitmek için kullanılan verilere erişimi olmasa bile başlatılabilir.

Önleyin ve yanıt verin

Buna karşı koymak için işletmenin iki şeye odaklanması gerekir. İlk olarak diyor ki Dell Technologies küresel CTO'su John Roesesaldırıları önlemeye ve saldırılara yanıt vermeye daha fazla kaynak ayırması gerekiyor. Çoğu kuruluş, yapay zeka odaklı olay bilgisi yönetimi hizmetlerini veya yönetilen güvenlik hizmeti sağlayıcısını kullanarak tehditleri tespit etme konusunda uzmandır ancak önleme ve müdahale, ciddi bir ihlalin yeterli düzeyde azaltılmasını sağlamak için hâlâ çok yavaştır.

Bunun, işletmenin uygulaması gereken ikinci değişikliğe yol açtığını söylüyor Rapid7 CEO'su Corey Thomas: Daha fazla yapay zeka ile önleme ve müdahaleyi güçlendirin. Bu, çoğu kuruluş için yutulması zor bir haptır çünkü esasen yapay zekaya veri ortamında değişiklik yapma alanı sağlar. Ancak Thomas, bunu yapmanın, yapay zekanın, temel yetenekleri insan operatörlere ayırırken, en usta olduğu güvenlik yönleri üzerinde çalışmasına olanak tanıyan yollarının bulunduğunu söylüyor.

Sonuçta iş güvene geliyor. Yapay zeka şu anda ofisteki yeni çocuk, dolayısıyla kasanın anahtarlarına sahip olmamalı. Ancak zamanla, giriş seviyesi ortamlarda değerini kanıtladığından, diğer çalışanlar gibi güven kazanmalıdır. Bu, iyi performans gösterdiğinde onu ödüllendirmek, başarısız olduğunda daha iyisini yapmayı öğretmek ve yapılacak doğru şeyi ve bunu yapmanın doğru yolunu anladığından emin olmak için her zaman yeterli kaynaklara ve uygun verilere sahip olduğundan emin olmak anlamına gelir.

Kaynak: https://venturebeat.com/2022/02/04/can-you-trust-ai-to-protect-ai/