chatGPT และอื่นๆ - ความหมายของ AI Chatbot ต่ออนาคตของความปลอดภัยไซเบอร์

จากงานที่เรียบง่ายเช่นการเขียนอีเมลไปจนถึงงานที่ซับซ้อนมากขึ้นเช่นการเขียนเรียงความหรือการรวบรวมโค้ด ChatGPT -- เครื่องมือประมวลผลภาษาธรรมชาติที่บุกเบิกด้วย AI จาก OpenAI -- ได้รับความสนใจมากถึงจนมาที่ใหญ่ตั้งแต่การเปิดตัว

นั่นยังไม่ได้หมายความว่าเป็นสิ่งที่สมบูรณ์แบบอย่างแน่นอน -- มันรู้จักทำผิดพลาดและข้อผิดพลาดเมื่อมันทำการจำแนกข้อมูลที่ได้รับมาในทางที่ผิด แต่ก็มีคนหลายๆ คนถือว่ามันและเครื่องมือ AI อื่นๆ นั้นคืออนาคตของวิธีการใช้งานอินเทอร์เน็ต

เงื่อนไขการให้บริการของ OpenAI สำหรับ ChatGPT ห้ามสร้างซอฟต์แวร์อันตราย เช่น แรนซอมแวร์ คีย์ล็อกเกอร์ ไวรัส หรือ "ซอฟต์แวร์อื่นที่ตั้งใจสร้างความเสียหายบางระดับ" นอกจากนี้ ยังห้ามลองสร้างสแปมและใช้งานในเชิงอาชญากรรมทางคอมพิวเตอร์

แต่เช่นเดียวกับเทคโนโลยีออนไลน์นวัตกรรมอื่น ๆ ก็มีผู้ที่เริ่มทดลองวิจารณ์ว่าพวกเขาสามารถใช้ ChatGPT ให้ได้เป็นวิธีการที่ไม่ถูกต้อง

หลังจากเปิดตัวแล้วไม่นานนัก ผู้ทำการศึกษาเกี่ยวกับความปลอดภัยสามารถนำเสนอข้อมูลในบอร์ดใต้ดินเกี่ยวกับวิธีการใช้งาน ChatGPT ในการสนับสนุนกิจกรรมทางไซเบอร์ที่ไม่เหมาะสม เช่นเขียนอีเมลล์หลอกลวงหรือช่วยในการรวบรวมมัลแวร์ได้

และมีความกังวลว่าโจรสลัดจะพยายามใช้ ChatGPT และเครื่องมือ AI อื่นๆ เช่น Google Bard ในส่วนของพวกเขา กระบวนการเหล่านี้จะไม่เปลี่ยนแปลงการโจมตีทางไซเบอร์ แต่ก็ยังช่วยให้ผู้ที่มีความผิดทำการต่อสู้ที่ทำให้ร้ายแรงมากขึ้นได้ดีกว่า -- แม้ว่าอาจจะเกิดขึ้นโดยไม่ได้ตั้งใจ

“ฉันไม่คิดว่าในช่วงสั้น ๆ นี้ ChatGPT จะสร้างประเภทของการโจมตีที่ใหม่ทั้งหมด การใช้ความสนใจจะเป็นการทำให้กิจกรรมประจำวันของพวกเขามีประสิทธิภาพในเรื่องความต้องการทางเงินและเวลามากขึ้น” โดยเสร็จ ชายเควิช ผู้จัดการกลุ่มความรุนแรงทางด้านความปลอดภัยที่ Check Point เป็น บริษัทความปลอดภัยไซเบอร์.

นอกจากนี้: ChatGPT คืออะไรและทำไมมันสำคัญ? นี่คือทุกอย่างที่คุณต้องรู้

การโจมตีด้วยวิธีฟิชิงเป็นส่วนประกอบที่มักที่สุดของการแฮ็กเกอร์ที่เจ้าหน้าที่โทรเลขอันฉิบหาย ไม่ว่าผู้โจมตีจะส่งอีเมลเพื่อแจกจ่ายมัลแวร์หรือลิงก์ฟิชิง หรือถูกนำมาใช้ในการโกงเพื่อชักชวนเหยื่อให้โอนเงิน อีเมลเป็นเครื่องมือสำคัญในการก่อให้เกิดการบีบบังคับในระยะต้น

การพึ่งพลังที่จำเป็นต่ออีเมลหมายความว่ากลุ่มอาชญากรรมต้องการเนื้อหาที่ชัดเจนและสามารถใช้ได้เสมอ ในกรณีมาก -- โดยเฉพาะในการโจมตีด้วยวิธีการฟิชชิ่ง -- จุดประสงค์ของผู้โจมตีคือการวางสมมุติให้มนุษย์ทำบางสิ่ง เช่นการโอนเงิน โชคดีที่หลายครั้งผู้ร้ายฟิชชิ่งเหล่านี้ง่ายต่อการจำสังเกตเป็นสแปม ตอนนี้ แต่เครื่องเขียนโคนวินที่มีประสิทธิภาพสามารถทำให้อีเมลเหล่านั้นมีเสน่ห์มากขึ้น

การทำอาชญากรรมไซเบอร์เป็นอุตสาหกรรมที่เกิดขึ้นทั่วโลก และมีผู้ต้องสงสัยอยู่ในหลายประเทศ ทำการส่งอีเมลฟิชชิ่งให้กับเป้าหมายทั่วโลก ซึ่งสิ่งที่ทำให้มีภาษาที่เป็นอุปสรรค โดยเฉพาะสำหรับแคมเปญสเปียร์ฟิชชิ่งที่ซับซ้อนขึ้นที่กำลังพึ่งผู้เสียหายที่เชื่อว่าพวกเขากำลังพูดคุยกับบุคคลที่น่าเชื่อถือ -- และคนคงไม่เชื่อใจว่าเขากำลังพูดคุยกับเพื่อนร่วมงานถ้าอีเมลนั้นเต็มไปด้วยการสะกดคำผิดแบบไม่ตรงตามลักษณะธรรมชาติของเขา หรือการใช้วรรณยุกต์ที่แปลกประหลาด

แต่ถ้าใช้ AI อย่างถูกต้อง แชทบอทสามารถใช้เขียนข้อความสำหรับอีเมล์ในภาษาใดก็ได้ที่ผู้โจมตีต้องการ

"อุปสรรคที่ใหญ่สำหรับคนระหว่างประเทศของผู้ใช้คอมพิวเตอร์รัสเซียคือภาษา -- ภาษาอังกฤษ", ทันทีที่ Shykevich กล่าวไว้. "เขาตอนนี้จะจ้างนักศึกษาจบในสาขาภาษาอังกฤษในวิทยาลัยรัสเซียเพื่อเขียนอีเมลลักลอบและทำงานในศูนย์บริการลูกค้า -- และพวกเขาต้องจ่ายเงินสำหรับนี้"

เขายังพูดต่อว่า: "สิ่งใดสิ่งหนึ่งที่เช่น ChatGPT สามารถช่วยลดค่าใช้จ่ายให้กับการสร้างข้อความปลอมเพียบทั้งหลาย ก็อาจจะเป็นสิ่งที่จะเพิ่มความสะดวกให้กับพวกเขา ฉันคิดว่านั่นคือทางที่พวกเขาจะมองหา"

ในทฤษฎีแล้ว มีการป้องกันที่ออกแบบมาเพื่อป้องกันการใช้งานที่ไม่เหมาะสม ตัวอย่างเช่น ChatGPT จำเป็นต้องให้ผู้ใช้ลงทะเบียนด้วยที่อยู่อีเมลและยังต้องมีหมายเลขโทรศัพท์เพื่อยืนยันการลงทะเบียน

และในขณะที่ ChatGPT จะปฏิเสธการเขียนอีเมลฟิชชิ่ง จากนั้นเราสามารถขอให้เขียนแม่แบบอีเมลสำหรับข้อความอื่น ซึ่งมักถูกโจมตีโดยผู้โจมตีไซเบอร์ เช่น ประกาศว่ามีโบนัสประจำปีถูกเสนอขาย ต้องดาวน์โหลดและติดตั้งอัปเดตซอฟต์แวร์สำคัญหรือไฟล์แนบต้องได้รับการตรวจสอบด่วน

"การสร้างอีเมลเพื่อโน้มน้าวให้คนคลิกที่ลิงก์เพื่อให้ได้สิ่งที่เป็นเช่นคำเชิญเข้าร่วมประชุม - มันดูดีมาก และถ้าคุณเป็นผู้พูดภาษาอังกฤษเป็นภาษาต่างชาติคนหนึ่ง สิ่งนี้ดูดีมาก"

"คุณสามารถให้มันสร้างเชิญเจรจาที่สวยงามและตรงตามไวยากรณ์ที่ถูกต้องที่คุณไม่สามารถทำได้หากคุณไม่ใช่ภาษาอังกฤษในระดับภาษาประจำชาติ"

แต่การใช้เครื่องมือเหล่านี้ไม่ได้เฉพาะกับอีเมลเท่านั้น เจ้าพรรคอาจใช้มันเพื่อช่วยเขียนสคริปต์สำหรับแพลตฟอร์มออนไลน์ที่ใช้ในงานเนื้อหาเชิงข้อความ สำหรับผู้โจมตีที่ทำการหลอกลวงหรือทีมผู้ยุติธรรมขัดแย้งที่พยายามดำเนินการแคมเปญสปีชการ สิ่งนี้อาจเป็นเครื่องมือที่เป็นประโยชน์ — โดยเฉพาะสำหรับการสร้างโปรไฟล์โซเชียลปลอมเพื่อดึงดูดคน

"หากคุณต้องการสร้างการพูดภาษาธุรกิจที่น่าเชื่อถือและไม่มีสาระสำหรับ LinkedIn เพื่อทำให้ดูเหมือนว่าคุณเป็นนักธุรกิจที่แท้จริงพยายามสร้างความสัมพันธ์ ChatGPT เป็นเครื่องมือที่ยอดเยี่ยมสำหรับนั้น," ออกมาจาก Kelly Shortridge ผู้เชี่ยวชาญด้านความปลอดภัยและผู้เชื่อมั่นทางหลักของเทคโนโลยีผู้ให้บริการคลาวด์คอมพิวท์ Fastly.

กลุ่มผู้ไม่ประสงค์ดีหลายกลุ่มพยายามใช้ LinkedIn และแพลตฟอร์มสื่อโซเชียลอื่น ๆ เป็นเครื่องมือในการดำเนินการแคมเปญการสอดแนมไซเบอร์ เมื่อสร้างโปรไฟล์ออนไลน์ที่ดูเหมือนมีความถูกต้องมาก ๆ - และเติมพวกเรื่องราวและข้อความลงไป - จะเป็นกระบวนการที่ใช้เวลานาน

สรุปว่า ชอร์ทริดจ้ะว่าผู้โจมตีอาจใช้เครื่องมือ AI เช่น ChatGPT เพื่อเขียนเนื้อหาที่น่าเชื่อถือ ในเวลาเดียวกันยังสามารถลดการใช้แรงงานได้น้อยลง โดยทำงานอัตโนมัติ

"มากของแคมเปญที่เกี่ยวกับสังคมเชิงวิศวกรรมต่างๆนั้นต้องใช้ความพยายามมากเพราะคุณต้องตั้งค่าโปรไฟล์เหล่านั้น," เธอนำเสนอว่าเครื่องมือ AI อาจลดขั้นตอนที่ซับซ้อนลงอย่างมากได้"

"ผมมั่นใจว่า ChatGPT สามารถเขียนโพสต์เชื่อมั่นที่ดูได้น่าเชื่อถือเกี่ยวกับทฤษฎีการสนทนาได้", เธอกล่าว

ลักษณะของนวัตกรรมทางเทคโนโลยีหมายความว่าเมื่ออะไรที่ใหม่เกิดขึ้นเสมอจะมีคนที่พยายามใช้ประโยชน์ที่ไม่ดีจากนั้น และแม้จะมีวิธีการป้องกันการใช้เพื่อต่อสู้กับการละเมิดที่แก่ลูกค้าที่เปลอดภัยที่สุด ลักษณะที่ล่องลอยของคนที่ทำผิดกฎหมายและผู้ที่ออกกลโกงหมายความว่าพวกเขามักจะหาวิธีการเดินหมายล้อมเพื่อหลีกเลี่ยงการป้องกัน

“ไม่มีทางปกป้องไม่ให้มีการใช้งานที่ผิดกฎหมายโดยสิ้นเชิง สิ่งเช่นนี้ไม่เคยเกิดขึ้นกับระบบใดๆเลย” กล่าว Shykevich ซึ่งหวังว่าการเน้นข้อกังวลด้านความปลอดภัยได้จะส่งผลให้มีการพูดคุยเพิ่มเติมเกี่ยวกับวิธีป้องกัน AI chatbot ไม่ให้ถูกใช้งานเพื่อวัตถุประสงค์ที่ผิดกฎหมาย”

"เป็นเทคโนโลยีที่ยอดเยี่ยม - แต่เหมือนเช่นเครื่องมือใหม่แล้ว จะมีความเสี่ยงและสำคัญที่จะพูดคุยในเรื่องนี้เพื่อรับรู้ว่ามีความเสี่ยงอะไร เป็นอย่างไร และฉันคิดว่าเมื่อเราพูดคุยมากขึ้น จะเป็นไปได้มากขึ้นที่ OpenAI และบริษัทที่คล้ายกันจะลงทุนเพิ่มเพื่อลดการใช้งานอย่างรุนแรง"

ยังคงมีข้อดีสำหรับความปลอดภัยด้านความปลอดภัยใน AI chatbots เช่น ChatGPT ด้วย ซึ่งพวกเขามีความสามารถในการจัดการและเข้าใจโค้ดได้ดีมาก จึงมีโอกาสที่จะใช้พวกเขาในการช่วยให้ผู้ป้องกันเข้าใจมัลแวร์ได้มากขึ้น นอกจากนี้เนื่องจากพวกเขายังสามารถเขียนโค้ดได้ จึงเป็นไปได้ว่าโดยการช่วยเหลือนักพัฒนาในโปรเจ็กต์ของพวกเขา เครื่องมือเหล่านี้จะช่วยให้สร้างโค้ดที่ดีและปลอดภัยมากขึ้นได้อีกด้วย ซึ่งดีสำหรับทุกคน

ตามที่นักวิเคราะห์หลักของ Forrester Jeff Pollard เขียนไว้เร็วๆ นี้ ChatGPT อาจสามารถช่วยลดเวลาในการสร้างรายงานเหตุการณ์ด้านความปลอดภัยได้อย่างมาก

"การทำให้สิ่งเหล่านั้นเร็วขึ้นหมายความว่ามีเวลามากขึ้นในการทำสิ่งอื่นๆ - การทดสอบ, การประเมิน, การสำรวจ, และการตอบสนอง ซึ่งเป็นสิ่งที่ช่วยให้ทีมด้านความปลอดภัยสามารถขยายองค์กรได้", เขากล่าวเพิ่มเติมว่าบอทสามารถแนะนำการปฏิบัติต่อไปตามข้อมูลที่มีอยู่ได้.

"หากการจัดการการจัดเรียงซ้ำ การอัตโนมัติ และการตอบสนองด้านความปลอดภัยถูกตั้งค่าให้สามารถเร่งความเร็วในการเรียกคืนศิลปะได้ นี้อาจเร่งการตรวจพบและการตอบสนอง และช่วยให้นักวิเคราะห์ [ศูนย์ปฏิบัติการด้านความปลอดภัย] ตัดสินใจได้ดีขึ้น," เขากล่าว.

ดังนั้น แชทบอทอาจทำให้งานด้านความปลอดภัยสำหรับบางคนยากขึ้น แต่ก็อาจมีข้อดีที่ออกเสียงบาง ๆ เช่นกัน

ZDNET ส่งคำถามไปยัง OpenAI เพื่อขอความเห็น แต่ไม่ได้รับการตอบกลับ อย่างไรก็ตาม ZDNET ได้ถาม ChatGPT เกี่ยวกับกฎที่มีอยู่เพื่อป้องกันการใช้ในการทุจริตสำหรับการโจมตีแฟนตาซี -- และเราได้รับข้อความต่อไปนี้

"สำคัญที่จะระบุว่า ในขณะที่โมเดลภาษา AI เช่น ChatGPT สามารถสร้างข้อความที่คล้ายกับอีเมลล์ฟิชชิ่งได้ แต่พวกเขาไม่สามารถดำเนินการที่เป็นอันตรายได้อย่างเดียวและจำเป็นต้องมีความตั้งใจและการดำเนินการของผู้ใช้เพื่อก่อให้เกิดความเสียหาย ดังนั้น ผู้ใช้งานจึงต้องปฏิบัติระมัดระวังและใช้วิจารณญาณอย่างรอบคอบเมื่อใช้เทคโนโลยี AI และต้องระมัดระวังในการป้องกันฟิชชิ่งและกิจกรรมที่เป็นอันตรายอื่นๆ"