จาก KYC สู่ Know Your AI Agents เมื่อผู้ใช้งานระบบไม่ใช่มนุษย์อีกต่อไป

“เมื่อ Agentic AI เริ่มทำงานในระบบ Production ความปลอดภัยจึงไม่อาจหยุดอยู่ที่การยืนยันตัวตนมนุษย์ เจซี่ ฟอน รองประธานภูมิภาคเอเชีย จาก Ping Identity ชี้ว่าองค์กรต้องสร้างอัตลักษณ์เฉพาะให้เอเจนต์ กำหนดสิทธิ์ขั้นต่ำ ตรวจสอบทุกการกระทำ และเตรียมระบบหยุดฉุกเฉิน ก่อน AI จะกลายเป็นความเสี่ยงที่ควบคุมไม่ได้

การนำปัญญาประดิษฐ์มาใช้ในองค์กรกำลังก้าวเข้าสู่จุดเปลี่ยนสำคัญ จากเดิมที่ AI ทำหน้าที่วิเคราะห์ข้อมูล สร้างเนื้อหา หรือช่วยตอบคำถาม ไปสู่ยุคของ Agentic AI ที่สามารถวางแผน ตัดสินใจ และดำเนินงานหลายขั้นตอนแทนมนุษย์ได้อย่างเป็นอิสระมากขึ้น

ความเปลี่ยนแปลงดังกล่าวสร้างโอกาสด้านผลิตภาพและประสิทธิภาพทางธุรกิจอย่างมหาศาล แต่ในเวลาเดียวกันก็กำลังสร้างโจทย์ใหม่ให้กับ CIO และ CISO ว่า องค์กรจะรู้ได้อย่างไรว่า AI Agent ตัวใดกำลังทำงานอยู่ ได้รับอนุญาตจากใคร เข้าถึงข้อมูลอะไร และหากเกิดความผิดพลาดจะสามารถตรวจสอบย้อนกลับไปถึงต้นทางได้หรือไม่

เจซี่ ฟอน รองประธานภูมิภาคเอเชีย ของ Ping Identity ผู้ให้บริการแพลตฟอร์มด้านการจัดการและรักษาความปลอดภัยอัตลักษณ์ดิจิทัล มองว่าแนวคิด Know Your Agent หรือ KYA กำลังกลายเป็นองค์ประกอบสำคัญของการกำกับดูแล AI ในองค์กร โดยเฉพาะเมื่อเอเจนต์เริ่มเข้าไปมีบทบาทในระบบงานจริงและสามารถดำเนินธุรกรรมในนามของมนุษย์

จาก KYC สู่ KYA เมื่อผู้ใช้งานระบบไม่ใช่มนุษย์อีกต่อไป

ในโลกดิจิทัลที่ผ่านมา องค์กรคุ้นเคยกับการจัดการอัตลักษณ์ของลูกค้า พนักงาน และพันธมิตรธุรกิจ ไม่ว่าจะเป็นการพิสูจน์ตัวตน การยืนยันสิทธิ์ หรือการกำหนดขอบเขตการเข้าถึงระบบ แต่การมาถึงของ Agentic AI ทำให้ขอบเขตของ Identity Security ต้องขยายออกไปสู่สิ่งที่ไม่ใช่มนุษย์ หรือ Non-human Identity

เจซี่ อธิบายว่า KYA ไม่ใช่เพียงคำศัพท์ใหม่ทางการตลาด แต่เป็นความจำเป็นที่เกิดขึ้นจากรูปแบบการใช้งาน AI ที่เปลี่ยนไป เพราะเอเจนต์ไม่ได้ทำหน้าที่เพียงให้คำแนะนำอีกต่อไป หากแต่สามารถดำเนินงานและตัดสินใจแทนผู้ใช้งานได้จริง

จากการเดินทางมาประเทศไทยและพบปะลูกค้า เธอพบว่า องค์กรไทยมีความตื่นตัวต่อ Agentic AI อย่างมาก และมีบางองค์กรที่นำเอเจนต์ไปใช้งานในระบบงานจริงแล้ว ไม่ได้จำกัดอยู่เพียงการทดลองใช้

ประเด็นสำคัญจึงไม่ใช่แค่ว่าองค์กรมี AI Agent กี่ตัว แต่ต้องตอบให้ได้ว่าเอเจนต์แต่ละตัวมีอัตลักษณ์อย่างไร ได้รับมอบหมายให้ทำหน้าที่ใด และมีสิทธิ์ดำเนินการอะไรบ้าง

“คำถามสำคัญคือ ณ ขณะที่เอเจนต์กำลังทำภารกิจหรือกำลังตัดสินใจ เอเจนต์ตัวนั้นได้รับสิทธิ์อนุมัติให้ทำจริงหรือไม่ และเมื่อทำลงไปแล้ว เราสามารถตรวจสอบย้อนหลังได้หรือเปล่า” เจซี่ อธิบายถึงหัวใจของ KYA

หากมนุษย์ต้องผ่านกระบวนการ Know Your Customer เพื่อพิสูจน์ว่าเป็นใคร และได้รับสิทธิ์ในการทำธุรกรรมอย่างไร AI Agent ก็ควรมีหลักการกำกับดูแลในลักษณะเดียวกัน เพียงแต่ต้องเพิ่มเติมความสามารถในการตรวจสอบขอบเขตการทำงาน การมอบหมายอำนาจ และพฤติกรรมที่เกิดขึ้นตลอดวงจรการทำงาน

การล็อกอินครั้งเดียวไม่เพียงพอสำหรับโลก Agent-to-Agent

หนึ่งในความเปลี่ยนแปลงสำคัญที่ เจซี่ เน้นย้ำ คือ การรักษาความปลอดภัยด้านอัตลักษณ์ไม่สามารถพึ่งพาการตรวจสอบเฉพาะตอนเข้าสู่ระบบได้อีกต่อไป

ในอดีต องค์กรอาจให้ความสำคัญกับการยืนยันตัวตน ณ จุด Login เป็นหลัก แต่เมื่อ AI Agent สามารถเข้าถึงแอปพลิเคชัน ดึงข้อมูล วิเคราะห์ และดำเนินธุรกรรมต่อเนื่องกันหลายขั้นตอน ความเสี่ยงจึงเกิดขึ้นได้ตลอดกระบวนการ ไม่ใช่เพียงช่วงเริ่มต้น

รูปแบบการปฏิสัมพันธ์ดิจิทัลในอนาคตจะขยายจาก Human-to-Human ไปสู่ Human-to-Agent, Agent-to-Human และ Agent-to-Agent ซึ่งรวมถึงการทำงานระหว่างเอเจนต์ส่วนบุคคลกับเอเจนต์ขององค์กร

ด้วยเหตุนี้ องค์กรตำเป็นให้ความสำคัญกับแนวคิด Continuous Trusted Verification หรือการตรวจสอบและยืนยันความไว้วางใจอย่างต่อเนื่อง โดยระบบต้องสามารถประเมินสิทธิ์และความเสี่ยงในแต่ละขั้นตอนที่เอเจนต์ร้องขอการเข้าถึงข้อมูลหรือดำเนินการที่มีความสำคัญ

เจซี่ ยกตัวอย่างสถานการณ์ที่ผู้ใช้งานอยู่ในกรุงเทพฯ และสั่งให้เอเจนต์ทำธุรกรรมผ่านแอปพลิเคชันธนาคาร แต่ระบบตรวจพบสัญญาณความเสี่ยงว่าคำขอธุรกรรมของเอเจนต์มีตำแหน่งที่ผิดปกติ เช่น แสดงว่ามาจากประเทศมาเลเซีย ระบบอาจร้องขอการยืนยันตัวตนเพิ่มเติมผ่าน Biometrics เพื่อให้แน่ใจว่าเจ้าของบัญชีเป็นผู้อนุมัติธุรกรรมนั้นจริง

อย่างไรก็ตาม การตรวจสอบอย่างต่อเนื่อง ไม่ได้หมายความว่าผู้ใช้งานต้องถูกขอรหัสผ่านหรือสแกนใบหน้าทุกครั้ง เพราะการยืนยันตัวตนที่ถี่เกินไปอาจนำไปสู่ MFA Fatigue (Multi-Factor Authentication Fatigue) หรือความเหนื่อยล้าจากการยืนยันตัวตน จนผู้ใช้งานกดยอมรับคำขอโดยไม่พิจารณา

ระบบที่ดีจึงต้องใช้ AI วิเคราะห์พฤติกรรมและสัญญาณความเสี่ยง หากเป็นการดำเนินงานที่สอดคล้องกับพฤติกรรมปกติและมีความเสี่ยงต่ำ ก็สามารถปล่อยให้กระบวนการดำเนินต่อไปได้โดยไม่สร้างแรงเสียดทานที่ไม่จำเป็น ขณะที่ธุรกรรมที่มีความเสี่ยงสูงจะต้องได้รับการตรวจสอบเพิ่มเติม

ให้สิทธิ์เท่าที่จำเป็น และปิดประตูเมื่อทำงานเสร็จ

อีกหลักการหนึ่งที่มีความสำคัญต่อการบริหาร AI Agent คือ Least Privilege หรือการกำหนดสิทธิ์ขั้นต่ำที่จำเป็น ซึ่งต้องนำมาปรับใช้ให้สอดคล้องกับความเร็วและความสามารถของเอเจนต์

เจซี่ เปรียบเทียบการให้สิทธิ์เข้าถึงระบบโดยไม่มีวันหมดอายุว่า เหมือนกับการเปิดประตูบ้านทิ้งไว้แล้วลืมปิด เพราะเมื่อเอเจนต์ได้รับสิทธิ์มากเกินความจำเป็น หรือมีระยะเวลาเข้าถึงระบบยาวนานเกินไป ก็อาจเข้าไปสำรวจและรวบรวมข้อมูลที่ไม่เกี่ยวข้องกับภารกิจที่ได้รับมอบหมาย

ตัวอย่างเช่น เอเจนต์ที่ได้รับมอบหมายให้ทำงานด้านการเงินอาจไม่จำเป็นต้องเข้าถึงข้อมูลสุขภาพของพนักงาน หรือข้อมูลลูกค้าทั้งหมดขององค์กร การกำหนดสิทธิ์จึงต้องจำกัดทั้งประเภทข้อมูล ขอบเขตการดำเนินงาน และระยะเวลาที่สามารถใช้งานได้

“เมื่อเอเจนต์ทำงานเสร็จ ประตูการเข้าถึงจะต้องถูกปิดลงทันที” เป็นหลักคิดที่เธอใช้ในการอธิบายความสำคัญของ Time Expiry

แนวทางดังกล่าวต้องอาศัยการกำหนดนโยบายแบบ Policy-based หรือ Role-based ที่ชัดเจน เพื่อให้เอเจนต์ได้รับสิทธิ์เฉพาะตามหน้าที่ และไม่สามารถขยายขอบเขตการเข้าถึงได้เองโดยปราศจากการอนุมัติ

แยกอัตลักษณ์ AI ออกจากมนุษย์ และต้องมี Kill Switch

เจซี่ ระบุว่าองค์กรไม่ควรอนุญาตให้ AI Agent สวมรอยเป็นมนุษย์ หรือให้พนักงานนำ Credentials ของตนเองไปแชร์กับเอเจนต์ทั้งหมดเพียงเพื่อความสะดวกในการทำงาน

การใช้บัญชีและสิทธิ์เดียวกันระหว่างมนุษย์กับเอเจนต์อาจทำให้การตรวจสอบความรับผิดชอบซับซ้อนขึ้น โดยเฉพาะเมื่อเกิดการตัดสินใจผิดพลาด การเข้าถึงข้อมูลเกินขอบเขต หรือธุรกรรมที่สร้างความเสียหาย

แนวทางที่เหมาะสมคือการสร้างอัตลักษณ์เฉพาะสำหรับเอเจนต์แต่ละตัว พร้อมกำหนดความสัมพันธ์ให้ชัดเจนว่าเอเจนต์ทำงานในนามของใคร ใครเป็นผู้อนุมัติ และมีขอบเขตอำนาจเพียงใด โดยมนุษย์ยังคงมีบทบาทในการตรวจสอบ ควบคุม และอนุมัติการดำเนินงานที่สำคัญ

นอกจากนี้ องค์กรควรมีระบบ Kill Switch หรือกลไกหยุดการทำงานฉุกเฉิน เพื่อให้สามารถตัดสิทธิ์หรือหยุดเอเจนต์ได้ทันทีเมื่อพบพฤติกรรมผิดปกติ มีแนวโน้มออกนอกขอบเขต หรือถูกแทรกแซงจากภายนอก

ประเด็นนี้สะท้อนว่าการกำกับดูแล Agentic AI ไม่ได้จำกัดอยู่ที่การป้องกันการโจมตีทางไซเบอร์เท่านั้น แต่รวมถึงการออกแบบระบบให้มนุษย์สามารถควบคุมและแทรกแซงการทำงานของ AI ได้เมื่อจำเป็น

องค์กรต้องมีทะเบียน AI_Agent เหมือนมีทะเบียนพนักงาน

เมื่อจำนวนเอเจนต์ในองค์กรเพิ่มขึ้น การบริหารจัดการแบบรายตัวหรือแยกตามแผนกอาจไม่เพียงพอ เจซี่ เสนอว่าองค์กรควรเริ่มจัดทำ AI_Agent Inventory หรือ Registry อย่างเป็นระบบ คล้ายกับการที่ฝ่ายทรัพยากรบุคคลมีทะเบียนพนักงาน

เธอยกภาพตัวอย่างว่าองค์กรที่มีพนักงาน 5,000 คน อาจมีเอเจนต์จำนวนมากถึง 50,000 ตัวในอนาคต ซึ่งสะท้อนให้เห็นถึงความท้าทายด้านการบริหารอัตลักษณ์ที่อาจขยายตัวเร็วกว่าจำนวนบุคลากรอย่างมาก

ทะเบียนดังกล่าวควรระบุได้ว่าเอเจนต์ตัวใดกำลังทำงาน เข้าถึงข้อมูลอะไร ดำเนินธุรกรรมประเภทใด ใครเป็นผู้อนุมัติสิทธิ์ และกำลังทำงานในนามของบุคคลหรือหน่วยงานใด

ข้อมูลเหล่านี้จะกลายเป็นพื้นฐานสำคัญของการสร้าง Visibility และ Auditability เพื่อให้องค์กรสามารถตรวจสอบพฤติกรรม ประเมินความเสี่ยง และระบุความรับผิดชอบได้อย่างเป็นระบบ

เจซี่ ยังกล่าวถึงแนวโน้มที่องค์กรชั้นนำบางแห่งเริ่มจัดตั้ง AI Department หรือหน่วยงานเฉพาะด้าน AI เพื่อดูแลทะเบียนเอเจนต์ กำหนดนโยบาย ควบคุมความปลอดภัย และกำกับการใช้งาน AI อย่างมีจริยธรรม โดยอาจรายงานตรงต่อ CEO หรือคณะกรรมการบริหาร

ในมุมของโครงสร้างผู้บริหารนั้น บทบาทของ CIO, CISO, CDO และ Chief AI Officer จะต้องประสานงานกันมากขึ้น โดย CDO ให้ความสำคัญกับการกำกับดูแลข้อมูล CIO ดูแลโครงสร้างพื้นฐานและทรัพยากรเทคโนโลยี ขณะที่ CAIO และผู้นำด้านความปลอดภัยมีบทบาทสำคัญในการกำหนดนโยบาย บริหารความเสี่ยง และสร้างโอกาสทางธุรกิจจาก AI

จากการมองเห็น สู่การควบคุมเอเจนต์ระหว่างทำงาน

เจซี่ อธิบายว่า การเปลี่ยนผ่านสู่ Agentic AI ทำให้บทบาทของแพลตฟอร์มด้าน Identity Security ขยายจากการจัดการอัตลักษณ์และประสบการณ์ผู้ใช้งาน ไปสู่การเป็น Control Plane สำหรับการควบคุมการปฏิสัมพันธ์และกิจกรรมของเอเจนต์ภายในองค์กร

เธออธิบายว่า ในช่วงก่อนหน้านี้ ความสนใจของ CIO และ CISO มักอยู่ที่การสร้างสมดุลระหว่างความปลอดภัยที่เข้มงวดกับประสบการณ์ใช้งานที่ดี แต่เมื่อ Agentic AI เข้ามามีบทบาทมากขึ้น ความปลอดภัยและประสบการณ์ผู้ใช้งานกลายเป็นความคาดหวังพื้นฐาน ขณะที่องค์กรต้องเตรียมพร้อมสำหรับการแลกเปลี่ยนและการทำงานแบบ Agent-to-Agent

แนวคิด Control Plane จึงมุ่งสร้างความสามารถในการมองเห็นและกำกับดูแลการทำงานของเอเจนต์ในระหว่างที่ระบบกำลังทำงาน หรือ Runtime Governance ตั้งแต่การตรวจสอบอัตลักษณ์ การกำหนดสิทธิ์ขั้นต่ำ ไปจนถึงการตรวจสอบย้อนหลังและการป้องกันการสวมรอยตัวตนมนุษย์

เธอมองว่าหากแต่ละแผนกสามารถสร้างและใช้งานเอเจนต์ได้อย่างอิสระโดยไม่มีกรอบควบคุมร่วมกัน องค์กรอาจเผชิญความเสี่ยงด้านข้อมูลและความปลอดภัยที่ขยายตัวอย่างรวดเร็ว ขณะที่ CIO และ CISO ยังคงเป็นผู้บริหารที่ต้องรับผิดชอบต่อภาพรวมของระบบและผลกระทบที่เกิดขึ้น

ดังนั้น การบริหาร AI_Agent จึงไม่ใช่เพียงเรื่องของการเลือกใช้เทคโนโลยี แต่เป็นการสร้างโครงสร้างการกำกับดูแลที่เชื่อมโยงระหว่างฝ่ายธุรกิจ ฝ่ายเทคโนโลยี และผู้บริหารระดับสูง

คู่มือสำหรับองค์กรที่กำลังเข้าสู่ยุค Agentic AI

เมื่อถูกถามถึงแนวทางการจัดบริหาร AI_Agent สำหรับองค์กร เจซี่ เสนอกรอบคิด 4 ด้านที่สามารถนำไปใช้เป็นจุดเริ่มต้นได้

ด้านแรกคือ การนิยาม Agentic_AI ให้ชัดเจน เพื่อให้บุคลากรเข้าใจบทบาท โอกาส และความเสี่ยงของเทคโนโลยี โดยมุ่งสร้างความรู้และความพร้อมในการใช้งาน มากกว่าการปิดกั้น AI ด้วยความกลัว

ด้านที่สองคือ การระบุพื้นที่ที่มีความเสี่ยงหรือผลกระทบสูงสุด (Biggest Blast Radius) เช่น ระบบการเงินหรือคลังข้อมูลที่ละเอียดอ่อน พร้อมกำหนดขอบเขตการทำงานของเอเจนต์และจัดให้มีระบบบันทึกกิจกรรมเพื่อรองรับการตรวจสอบ

ด้านที่สามคือ การวัดผลและกำหนดมาตรฐาน ทั้งด้านประสิทธิภาพการทำงานและการควบคุมกรณีที่เอเจนต์ทำงานต่ำกว่าเป้าหมาย หรือดำเนินการเกินขอบเขตที่ได้รับอนุญาต

ด้านสุดท้ายคือ การให้ความรู้และกำหนดนโยบายร่วมกันภายในองค์กร โดยเฉพาะแผนกธุรกิจที่มีความกระตือรือร้นในการสร้างเอเจนต์ใช้งานเอง เพื่อให้ทุกฝ่ายเข้าใจข้อกำหนดด้านความปลอดภัยและไม่สร้างความเสี่ยงต่อระบบโดยรวม

ท้ายที่สุด การเปลี่ยนผ่านจาก KYC สู่ KYA สะท้อนว่าความไว้วางใจในโลกดิจิทัลกำลังเปลี่ยนจากการพิสูจน์ว่า “ใครเป็นผู้ใช้งาน” ไปสู่การพิสูจน์ว่า “ใครหรืออะไรได้รับอนุญาตให้ทำสิ่งใด ในนามของใคร และภายใต้เงื่อนไขใด”

“สำหรับ CIO และ CISO ความท้าทายจึงไม่ใช่การหยุดยั้งการใช้งาน Agentic_AI แต่เป็นการสร้างระบบที่ทำให้องค์กรสามารถขยายการใช้งานได้อย่างมั่นใจ โดยยังคงมองเห็น ควบคุม และตรวจสอบทุกการกระทำของเอเจนต์ได้ตลอดเวลา” เจซี่ กล่าวสรุป

Featured Image: WangXiNa