เหตุใด IoT จึงควรกลายเป็น 'อินเทอร์เน็ตแห่งความโปร่งใส'

อัลกอริธึมที่ทึบแสงอาจมีต้นทุนสูงถึงตายได้

อัลกอริธึมกล่องดำอาจทำให้เกิดปัญหาในโลกแห่งความเป็นจริงได้ ตัวอย่างเช่น มีถนนที่ทอดยาวแบบไม่มีคำอธิบายในหุบเขาโยเซมิตี รัฐแคลิฟอร์เนีย ซึ่งมีความสม่ำเสมอ สร้างความสับสนให้กับรถยนต์ที่ขับเองและปัจจุบันเรายังไม่มีคำตอบว่าทำไม ถนนที่เปิดโล่งนั้นเต็มไปด้วยความเสี่ยงและอันตราย แต่บ้านของคุณเองล่ะ? ผู้ช่วยอัจฉริยะจะคอยฟังเสียงของคุณและเติมเต็มความปรารถนาและคำสั่งของคุณเกี่ยวกับการช็อปปิ้ง การให้ความร้อน ความปลอดภัย และคุณสมบัติอื่นๆ ในบ้านที่ทำงานร่วมกับระบบอัตโนมัติ อย่างไรก็ตาม จะเกิดอะไรขึ้นเมื่อผู้ช่วยอัจฉริยะเริ่มทำตัวเป็นใบ้และไม่ฟังคุณแต่ฟังทีวี

มี a เกร็ดพงศาวดาร การวนรอบเว็บเกี่ยวกับผู้ช่วยบ้านอัจฉริยะหลายคนที่เริ่มซื้อของออนไลน์ที่ไม่ต้องการ เนื่องจากจิม แพตตัน โฮสต์ของข่าว CW6 ของซานดิเอโก พูดวลีที่ว่า "Alexa สั่งบ้านตุ๊กตาให้ฉัน" ไม่ว่าสิ่งนี้จะเกิดขึ้นในระดับที่ยิ่งใหญ่นี้หรือไม่ก็ตาม ปัญหาที่แท้จริงคือเหตุการณ์ในบ้านตุ๊กตาฟังดูเป็นไปได้มาก และทำให้เกิดข้อสงสัยอีกครั้งเกี่ยวกับการทำงานภายในของอุปกรณ์ IoT ที่เรามอบความไว้วางใจให้กับชีวิตประจำวัน ความสะดวกสบายและความปลอดภัยของเราเป็นอย่างมาก

จากมุมมองของ IoT ความเสียหายที่จับต้องไม่ได้ของเหตุการณ์ดังกล่าวมีความสำคัญมาก เมื่อหนึ่ง รถยนต์ที่เป็นอิสระ ล้มเหลว ยานยนต์ไร้คนขับทั้งหมดได้รับชื่อเสียง เมื่อผู้ช่วยบ้านอัจฉริยะคนหนึ่งทำสิ่งที่โง่เขลา ความฉลาดของผู้ช่วยบ้านอัจฉริยะทั้งหมดก็เป็นปัญหา

ข้อมูลช้างในห้อง

ทุกครั้งที่อัลกอริทึมตัดสินใจผิดพลาด ผู้จัดหาของอัลกอริทึมจะตรวจสอบอย่างละเอียดและแก้ไขอย่างรวดเร็ว อย่างไรก็ตาม เนื่องจากลักษณะการแสวงหาผลกำไรที่เป็นกรรมสิทธิ์ของอัลกอริธึมเหล่านี้ ทางการและประชาชนทั่วไปจึงไม่มีทางตรวจสอบได้ว่ามีการปรับปรุงอะไรเกิดขึ้นบ้าง ในท้ายที่สุด เราต้องใช้บริษัทต่างๆ ตามคำพูดของพวกเขา การทำผิดซ้ำๆ ทำให้เป็นการถามที่ยาก

เหตุผลหลักประการหนึ่งสำหรับบริษัทต่างๆ ที่จะไม่เปิดเผยการทำงานภายในของอัลกอริธึม - เท่าที่พวกเขาสามารถเข้าใจได้ - พวกเขาไม่ต้องการแสดงการดำเนินการทั้งหมดที่พวกเขาดำเนินการกับข้อมูลของเรา รถยนต์ที่ขับด้วยตนเองเก็บบันทึกรายละเอียดของทุกการเดินทาง ผู้ช่วยที่บ้านติดตามกิจกรรมรอบ ๆ บ้าน บันทึกการตั้งค่าอุณหภูมิ แสง และระดับเสียง และคอยอัพเดทรายการซื้อของอยู่เสมอ ทั้งหมดนี้ ข้อมูลส่วนบุคคลที่สามารถระบุตัวตนได้ ถูกรวบรวมจากส่วนกลางเพื่อให้อัลกอริธึมเรียนรู้และส่งข้อมูลไปยังโฆษณาที่ตรงเป้าหมาย โปรไฟล์ผู้บริโภคโดยละเอียด การกระตุ้นเชิงพฤติกรรม และการปรับเปลี่ยนอย่างจริงจัง

ย้อนเวลากลับไป Cambridge Analytica ติดอาวุธอย่างมีประสิทธิภาพ ข้อมูลโปรไฟล์บนโซเชียลมีเดียของผู้ใช้ที่ไม่สงสัย 87 ล้านข้อมูลเพื่อบิดเบือนข้อมูลผู้มีสิทธิเลือกตั้ง และอาจช่วยให้การเลือกตั้งประธานาธิบดีสหรัฐฯ พลิกผันได้ทั้งหมด หากรายชื่อเพื่อนของคุณและกลุ่มสนทนาออนไลน์บางกลุ่มเพียงพอสำหรับอัลกอริทึมในการระบุวิธีที่ดีที่สุดในการโน้มน้าวความเชื่อและพฤติกรรมของคุณ บันทึกโดยละเอียดของอัตราการเต้นของหัวใจ การเคลื่อนไหว และรูปแบบการนอนหลับของคุณนั้นสามารถเปิดใช้งานได้ในระดับใด

บริษัทต่างๆ มีส่วนได้ส่วนเสียในการรักษาอัลกอริทึมที่ทึบแสง เนื่องจากช่วยให้ปรับให้เข้ากับวัตถุประสงค์ในการแสวงหาผลกำไร และรวบรวมฐานข้อมูลขนาดใหญ่จากส่วนกลางของข้อมูลผู้ใช้ที่มีความละเอียดอ่อนได้ตลอดทาง เมื่อมีผู้ใช้จำนวนมากขึ้นเรื่อยๆ ที่ตื่นขึ้นมาพบกับความเจ็บปวดแต่จำเป็น การนำ IoT มาใช้และการพัฒนาก็ค่อยๆ หยุดชะงักลง และความสงสัยก็ก่อตัวขึ้นต่อหน้าความก้าวหน้าของอัลกอริทึมที่ไม่เคยมีมาก่อน เราจะทำอย่างไร?

การเปลี่ยนผ่านสู่ 'อินเทอร์เน็ตแห่งความโปร่งใส'

จุดเน้นที่เร่งด่วนที่สุดควรอยู่ที่การทำให้อัลกอริธึมใดเข้าใจและโปร่งใสมากขึ้น เพื่อเพิ่มความไว้วางใจสูงสุดและขจัดผลกระทบด้านลบของความทึบของอัลกอริทึม IoT จำเป็นต้องกลายเป็น "อินเทอร์เน็ตแห่งความโปร่งใส" อุตสาหกรรมสามารถสร้างความโปร่งใสผ่านการแยกส่วน AI จากการรวบรวมข้อมูลจากส่วนกลาง และสร้างอัลกอริทึมโอเพนซอร์สให้ได้มากที่สุด เทคโนโลยีเหมือนสวมหน้ากาก สหพันธ์การเรียนรู้ และ edge AI ทำให้เกิดขั้นตอนเชิงบวกเหล่านี้ เราต้องการเจตจำนงที่จะไล่ตามพวกเขา มันจะไม่ง่าย และบริษัทเทคโนโลยีขนาดใหญ่บางแห่งจะไม่ล้มลงโดยไม่มีการต่อสู้ แต่เราทุกคนจะดีขึ้นในอีกด้านหนึ่ง

เกี่ยวกับผู้เขียน

Leif-Nissen Lundbæk, PhD, เป็นผู้ร่วมก่อตั้งและ CEO ของ ไซน์. งานของเขามุ่งเน้นไปที่อัลกอริทึมและแอปพลิเคชันสำหรับ AI ที่รักษาความเป็นส่วนตัวเป็นหลัก ในปี 2017 เขาก่อตั้งบริษัทเทคโนโลยีความเป็นส่วนตัวร่วมกับศาสตราจารย์และหัวหน้าเจ้าหน้าที่วิจัย Michael Huth และ COO Felix Hahmann แอพมือถือ Xayn เป็นเบราว์เซอร์การค้นหาและการค้นพบส่วนตัวสำหรับอินเทอร์เน็ต ซึ่งรวมเสิร์ชเอ็นจิ้น ฟีดการค้นพบ และเบราว์เซอร์มือถือที่เน้นความเป็นส่วนตัว การปรับเปลี่ยนในแบบของคุณ และการออกแบบที่ใช้งานง่าย ผู้ชนะการประกวดนวัตกรรม Porsche ครั้งแรก บริษัท AI ในเบอร์ลินได้ทำงานร่วมกับ Porsche, Daimler, Deutsche Bahn และ Siemens