ชาติกระทำการที่น่าตื่นเต้นและน่ากลัวของ ChatGPT และ AI ใหม่เข้าสู่ระบบรักษาความปลอดภัยร้ายแรง

ปัจจัยปฏิกิริยาประดิษฐกรรมมนุษย์สร้างสรรค์กำลังเปลี่ยนแปลงการรักษาความปลอดภัยไซเบอร์, ช่วยเหลือทั้งผู้โจมตีและผู้ป้องกัน. ผู้ก่อการร้ายใช้ปัญญาประดิษฐ์เพื่อเปิดใช้โจมตีที่ซับซ้อนและใหม่ที่มีขนาดใหญ่. และผู้ป้องกันก็ใช้เทคโนโลยีเดียวกันเพื่อปกป้องโครงสร้างพื้นฐานที่สำคัญ, องค์กรของรัฐบาลและเครือข่ายธุรกิจ ตามที่คริสโตเฟอร์ อัลเบิร์ก ประธานเจ้าหน้าที่บริหารของแพลตฟอร์มซักประวัตินายที่อันตรายบันทึกได้บอก

AI ที่เกิดจากปัญญาประดิษฐ์ช่วยให้ผู้กระทำการไม่ดีสามารถนวัตกรรมและพัฒนากลยุทธ์โจมตีใหม่ได้ ซึ่งช่วยให้พวกเขาสามารถอยู่ข้างหน้าการป้องกันความปลอดภัยได้เสมอ ปัญญาประดิษฐ์ช่วยให้ผู้ก่อการร้ายสามารถทำการโจมตีอัตโนมัติ ส่องแผนผังการโจมตี และสร้างเนื้อหาที่สอดรับกับภูมิภาคและกลุ่มเป้าหมายทางด้านภูมิภาคและลักษณะของประชากรต่างๆ ซึ่งช่วยให้พวกเขาสามารถเน้นเป้าหมายที่แตกต่างกันได้มากขึ้นในประเทศต่างๆ คนร้ายคอมพิวเตอร์นำเทคโนโลยีนี้มาใช้เพื่อสร้างอีเมลล์ฉ้อโกงที่สุดกำลังจะเชื่อได้ ปัญญาประดิษฐ์ที่สร้างขึ้นช่วยให้ผู้โจมตีสามารถสร้างอีเมลล์และข้อความที่เข้ากันได้สูงและเป็นส่วนตัวมากขึ้นทำให้เขาสามารถหลอกล่อเป้าหมายได้มากขึ้น

"ฉันคิดว่าคุณไม่จำเป็นต้องคิดในสิ่งที่สร้างสรรค์เพื่อรู้ว่าคนเหล่านี้จริงๆ แล้วสามารถช่วยให้ [ผู้มีพฤติกรรมทางไซเบอร์] เป็นผู้เขียนได้ ซึ่งเป็นปัญหา," Ahlberg กล่าว

ผู้ป้องกันกำลังใช้ปัญญาประดิษฐ์เพื่อต่อต้านการโจมตี องค์กรกำลังใช้เทคโนโลยีนี้เพื่อป้องกันการหลุดข้อมูลและค้นหาช่องโหว่ของเครือข่ายอย่างเจาะจง และยังสามารถทำงานอัตโนมัติเช่นการตั้งค่าการแจ้งเตือนสำหรับคำสำคัญที่เฉพาะเจาะจงและการตรวจจับข้อมูลที่ละเอียดอ่อนที่อยู่บนอินเทอร์เน็ต นักล่าตัวจับคุกคามกำลังใช้ปัญญาประดิษฐ์เพื่อระบุรูปแบบที่ไม่ธรรมดาและสรุปผลข้อมูลจำนวนมาก เชื่อมโยงข้อมูลจากแหล่งข้อมูลหลายแหล่งและรูปแบบซ่อนท่อนข้อมูล

การทำงานยังต้องการผู้เชี่ยวชาญมนุษย์ แต่ Ahlberg กล่าวว่า เทคโนโลยี AI แบบสร้างสรรค์ที่เราเห็นในโครงการเช่น ChatGPT สามารถช่วยได้

"เราต้องการเพิ่มความเร่งให้กับรอบการวิเคราะห์ [เพื่อ] ช่วยให้เราวิเคราะห์ในความเร็วของความคิด", เขากล่าว. "นั่นเป็นสิ่งที่ยากมากที่จะทำ และผมคิดว่าเรากำลังเห็นปัจจัยที่ทำให้เกิดการเปลี่ยนแปลงที่น่าตื่นเต้นอย่างมากที่นี่"

อัลเบิร์กยังได้พูดถึงความเสี่ยงที่เครื่องจักรที่มีความอัจฉริยะสูงอาจนำมาได้ ภายในโลกที่กำลังเข้าสู่การดิจิตอลและการเชื่อมต่อกันอย่างไม่ยุติธรรมมีความเป็นไปได้ที่ความสามารถในการขดเกรทความเป็นจริงและรูปแบบการรับรู้นั้นอาจถูกใช้ประโยชน์อย่างไม่เป็นธรรมโดยผู้กระทำที่มีความประมวลผลที่สูง ความเสี่ยงเหล่านี้ไม่ได้ถูกจำกัดอยู่เฉพาะกับรัฐบาลของแต่ละชาติ ทำให้ภูมิทัศน์เป็นไปได้อย่างซับซ้อนและอย่างอิสาน

AI มีศักยภาพในการช่วยป้องกันต่อต้านอุปสรรคเหล่านี้ แต่ระบบนี้ยังเกิดความเสี่ยงเองด้วย ตัวอย่างเช่น เครื่องจักรที่มีความสามารถในการประมวลผลสูงกว่าอาจหาทางเข้าระบบได้เร็วกว่าและมีประสิทธิภาพมากกว่ามนุษย์ ในการต่อต้านอุปสรรคเหล่านี้ เราต้องรับรองว่า AI ถูกใช้ในลักษณะของการป้องกันและกำหนดให้อยู่ในความรับผิดชอบของผู้ควบคุมอย่างชัดเจน

เมื่อ AI กลายเป็นส่วนหนึ่งของสังคมมากขึ้น สิ่งสำคัญที่สุดคือการให้ผู้ตัดสิน เช่น นักบวช และผู้ตัดสินต่าง ๆ เข้าใจเทคโนโลยีและผลกระทบของมัน การสร้างพันธมิตรแข็งแกร่งระหว่างผู้เชี่ยวชาญด้านเทคนิคและผู้ตัดสินในการนำทางอนาคตของ AI ในการตามล่าภัยคุ้มครองและอื่น ๆ

โอกาส ความท้าทายและปัญหาทางจริยธรรมของ AI ในภาคปฏิบัติการความปลอดภัยเป็นเรื่องที่ซับซ้อนและเปลี่ยนแปลงไปเสมอ การรักษาความโอเป็นได้ของโมเดล AI และการเก็งกำไรในการตัดสินใจของมนุษย์จะช่วยจัดการกับปัญหาทางจริยธรรมได้ เรื่องความตั้งใจ การร่วมมือกัน และความเข้าใจที่เป็นชัดเจนเกี่ยวกับเทคโนโลยีจะเป็นสิ่งสำคัญในการตอบสนองต่อความเสี่ยงในระยะยาวของเครื่องมือที่มีความเชี่ยวชาญสูง

อัลเบิร์กยังแสดงความกังวลเกี่ยวกับจีน รัสเซีย และประเทศมหาอำนาจทางเศรษฐกิจที่ใช้เครื่องมือที่สามารถทำงานเองได้ ประเทศเหล่านี้จะไม่ค่อยลดความเร็วในการพัฒนา AI หรือแบ่งปันครองมั่นทางจริยธรรม เขาเสนอว่าการสามารถ "ถอดปลั๊ก" ออกจากเครื่องจักรแบบนี้เป็นการปกป้องที่ชาญฉลาด แต่เขาเสนอการผสมเทคโนโลยีเข้ากับสังคมและเศรษฐกิจโลกจะทำให้ยากที่จะแยกตัวออกได้ อัลเบิร์กเน้นความจำเป็นที่จะต้องออกแบบผลิตภัณฑ์และเครื่องจักรโดยการระบุให้ชัดเจนว่าใครควบคุม

ข้อดีที่อินเทอร์เน็ตได้นำเสนอคือ อินเทอร์เน็ตเป็นที่ที่ข้อมูลทั้งหมดของโลกถูกย้ายมาอยู่ พูดว่า "หนังสือรุ่นใหญ่เหล่านี้กำลังทำสิ่งที่มีเวทมนตร์ดี ๆ … เพื่อเร่งรองรับกระบวนการคิดดังกล่าว"

เขาเพิ่มเติมว่า "ในอีก 25 ปีนี้ โลกจะกลายเป็นภาพลักษณ์ของอินเทอร์เน็ต"