กษัตริย์ชาร์ลส์เรียกร้องให้ผู้นำ AI ใช้เทคโนโลยี ‘เพื่อประโยชน์ของมนุษยชาติ’

Charles จะจัดการประชุมกับผู้นำของบริษัท AI รายใหญ่ ซึ่งเขาจะสนับสนุนให้พวกเขาบรรลุฉันทามติเกี่ยวกับ “ชุดหลักการที่ใช้ร่วมกัน”

สัปดาห์นี้ กษัตริย์ชาร์ลส์จะขอให้ซีอีโอของบริษัท AI ที่ทรงพลังที่สุดในโลกใช้ปัญญาประดิษฐ์ดังกล่าว เทคโนโลยี “เพื่อประโยชน์ของมนุษยชาติ”

Charles มีกำหนดจะจัดการประชุมกับผู้นำของ Anthropic, Nvidia, Google DeepMind และ Open AI ที่ Dumfries House ประเทศสกอตแลนด์ ซึ่งเขาจะสนับสนุนให้พวกเขาบรรลุฉันทามติเกี่ยวกับ “ชุดหลักการที่ใช้ร่วมกัน”

ความสำคัญของคำขอของเขาได้รับการเน้นย้ำเมื่อหัวหน้ากลุ่ม Anthropic ยักษ์ใหญ่ด้าน AI เรียกร้องให้การพัฒนาเทคโนโลยีช้าลง

ในจดหมายเปิดผนึก Dario Amodei กล่าวว่า AI ได้ “ก้าวหน้าไปอย่างมาก” ตั้งแต่ช่วงฤดูร้อน และอาจเข้าครอบครอง “อินเทอร์เน็ตทั้งหมด” ในอีก 6 ถึง 12 เดือนข้างหน้า “อาจสร้างความเสียหายมูลค่าหลายแสนล้านดอลลาร์”

Amodei ผู้ก่อตั้ง Anthropic ร่วมกับ Daniela น้องสาวของเขาในปี 2021 กล่าวว่า “หากไม่ตรวจสอบ อาจแซงหน้าความสามารถของเราในการทำความเข้าใจและควบคุมระบบเหล่านี้ ดังนั้นจึงควรได้รับการตรวจสอบอย่างระมัดระวัง”

Charles วัย 77 ปี ​​ผู้ไม่เคยเป็นเจ้าของโทรศัพท์มือถือมาก่อน มีความสนใจอย่างมากในการพัฒนา AI และความเสี่ยงของมัน

แหล่งข่าวรายหนึ่งกล่าวว่าเขาหวังว่าการประชุมสุดยอดครั้งนี้จะกระตุ้นให้ผู้นำเทคโนโลยีหารือเกี่ยวกับ “ความรับผิดชอบในการพัฒนาเทคโนโลยีนี้ตลอดจนโอกาส”

เป็นที่รู้กันว่าผู้ร่วมประชุมครั้งนี้ Jensen Huang ผู้ก่อตั้งและ CEO ของ Nvidia; เซอร์ เดมิส ฮาสซาบิส ผู้ก่อตั้งและประธาน Google DeepMind; Niccolò de Masi ประธานและซีอีโอของ IonQ; และเปาโล เบนันตี ที่ปรึกษาวาติกันด้าน AI

แหล่งข่าวในราชวงศ์บอกกับ Sunday Times ว่า “กษัตริย์เสด็จมาที่นั่นเพื่อเชิญ รับฟัง และสนับสนุนการสนทนาเหล่านี้ และถามคำถามว่า ‘เราจะพัฒนา AI เพื่อประโยชน์ของมนุษยชาติได้อย่างไร’

“เมื่อเราได้เห็นเขาทำงานในประเด็นที่เกี่ยวข้องกับสิ่งแวดล้อมและการขาดแคลนน้ำ เขาหวังที่จะจัดหาพื้นที่ที่เป็นกลางเพื่อช่วยในการสนทนาที่เป็นส่วนหนึ่งของปัญหาระดับชาติและระดับโลกเกี่ยวกับบางสิ่งที่ส่งผลกระทบต่อเราทุกคน

“เขาหวังว่าการอภิปรายจะสร้างความเข้าใจในความรับผิดชอบในการพัฒนาเทคโนโลยีนี้ เช่นเดียวกับโอกาสในการให้แน่ใจว่าการพัฒนาทางเทคโนโลยีใดๆ จะเป็นศูนย์กลางของผลประโยชน์ของมนุษย์ต่อสังคม

“เขาต้องการถามคำถาม: ‘หลักการชุดหนึ่งจะมีประโยชน์หรือไม่’ ความรู้สึกของเขาคือมันจะไม่ง่าย แต่นั่นไม่ได้หมายความว่าเราไม่ควรพยายาม”

คำปราศรัยเปิดงานของชาร์ลส์ได้รับการคาดหวังให้ “สนับสนุนให้เกิดการอภิปรายร่วมกันและเปิดกว้าง และถามว่าหลักการชี้นำสามารถช่วยให้เกิดความก้าวหน้าเชิงบวกในจังหวะนี้ ในหัวข้อที่ส่งผลกระทบต่อเราทุกคนในทางใดทางหนึ่งได้หรือไม่”

ผู้ช่วยของกษัตริย์ปรึกษาหารือกับรัฐบาลที่การประชุมสุดยอด ซึ่งรัฐมนตรีกระทรวง AI จะมีนายกนิษกา นารายณ์ รัฐมนตรีกระทรวง AI เข้าร่วมด้วย

งานที่ Dumfries House ซึ่งเป็นที่ตั้งของ King’s Foundation ได้รับการดูแลโดย Ditchley Foundation ซึ่งได้พัฒนาร่างกฎบัตรสำหรับผู้นำ AI

กฎบัตรดังกล่าวอ้างว่าเป็น “ชุดหลักการที่ใช้ร่วมกัน” ซึ่งหากตกลงกันไว้ “จะเป็นแนวทางในการนำ AI ไปใช้ในอนาคต ไม่เพียงแต่เป็นเครื่องมือที่มีประสิทธิภาพและประสิทธิผลเท่านั้น แต่ยังเป็นเครื่องมือที่ส่งเสริมศักดิ์ศรีของมนุษย์และก่อให้เกิดความเจริญรุ่งเรืองของทั้งผู้คนและโลกด้วย”

ชาร์ลส์ยังเรียกร้องให้มีการประชุมระหว่างผู้นำ AI และตัวแทนจากองค์กรการกุศลของเขา ซึ่งรวมถึง King’s Trust, the Trust, Sustainable Markets Initiative และ King’s Foundation เพื่อสำรวจผลกระทบของ AI ต่อเยาวชน ธุรกิจ สิ่งแวดล้อม และประเทศกำลังพัฒนา

เมื่อปีที่แล้ว Charles มอบรางวัล Queen Elizabeth Award สาขาวิศวกรรมให้กับ Huang ผู้ก่อตั้ง Nvidia ? บริษัทที่มีมูลค่ามากที่สุดในโลกโดยมีมูลค่าตลาด 5.29 ล้านล้านดอลลาร์ (3.9 ล้านล้านปอนด์)? พร้อมด้วยผู้บุกเบิก AI อีกหกคน

เมื่อสัปดาห์ที่แล้ว ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์แสดงความกลัวว่าเทคโนโลยีกำลังก้าวหน้าอย่างรวดเร็วจนสามารถ “ฆ่ามนุษย์ทุกคน” ได้ภายในทศวรรษหน้า

Evan Hubinger นักวิจัยด้านความปลอดภัยอาวุโสของ Anthropic กล่าวถึง X: “เราเชื่อจริงๆ ว่า AI สามารถฆ่ามนุษย์ทุกคนได้! โดยส่วนตัวแล้วผมคิดว่าจะเพิ่มขึ้น >10% ภายในทศวรรษหน้า”

เมื่อวันพฤหัสบดีที่ผ่านมา บริษัท Anthropic หนึ่งในบริษัท AI รายใหญ่ที่สุดของโลก ซึ่งมีมูลค่าประมาณ 1 ล้านล้านปอนด์ เปิดเผยว่าได้จับนักวิจัยต่างชาติที่พยายามใช้เทคโนโลยีของบริษัทเพื่อสร้างแบบจำลองไวรัสที่เป็นอันตราย ซึ่งสามารถใช้เป็นอาวุธชีวภาพได้

ความคิดเห็นของ Hubinger เป็นการตอบสนองต่อโพสต์อื่นเกี่ยวกับ X จาก Jacob Coxon นักวิจัย AI ที่ลาออกจาก Anthropic เมื่อวันอังคารเพื่อทำงานกับ OpenAI

เขาโพสต์ว่า: “ไม่มีบริษัทใดที่รับผิดชอบ พวกเขากำลังเร่งรีบโดยตรงเพื่อพัฒนาสติปัญญาและการพนันกับชีวิตของเรา”

“อย่าประมาทพลังของเทคโนโลยีนี้ ในไม่ช้า ระบบเหล่านี้จะเป็นระบบพิเศษที่สามารถทำลายทุกสิ่ง ปฏิวัติอุตสาหกรรมใดๆ ก็ตามในชั่วข้ามคืน และรับพลังและทรัพยากรที่แท้จริง”

โคซอนบอกกับบีบีซีว่า “ผมเชื่อว่าหากเราไม่ชะลอความเร็วลงตามอัตราความก้าวหน้าในปัจจุบัน มีความเป็นไปได้สูงที่เราทุกคนจะเสียชีวิตในอนาคตอันใกล้นี้”

Tom Tugendhat รัฐมนตรีกระทรวงการต่างประเทศเงากล่าวว่ารัฐบาล “ไม่มีความรวดเร็วพอที่จะตามทันการพัฒนา AI” และ “เราจำเป็นต้องรักษาความสามารถนี้ไว้เพื่อปกป้องตัวเราเอง”

เขาบอกกับสกายนิวส์ว่า “บางครั้งรู้สึกเหมือนคุณกำลังดูใครบางคนบรรจุปืนกล แล้วพวกเขาก็เตือนคุณว่าปืนกลนั้นอันตราย

“ความจริงก็คือ AI มีความเสี่ยงอย่างแท้จริง และการควบคุมสิ่งต่าง ๆ เช่น อาวุธชีวภาพ หรือการพัฒนาภัยคุกคามทางนิวเคลียร์รูปแบบใหม่ เป็นสิ่งที่บริการ AI ตระหนักดี

“แต่เมื่อเร็ว ๆ นี้เราได้เห็นการโจมตีแบบกอดใบหน้าว่ามีหลายวิธีในการเปิดใช้งานความสามารถในการทำลายของมัน”

นาย Tugendhat กล่าวเสริมว่า “การเปลี่ยนแปลงที่รวดเร็วนั้นไม่ธรรมดาเช่นกัน และนี่คือจุดที่รัฐบาลสามารถอำนวยความสะดวกในการสนทนาได้จริงๆ แต่เราแค่ไม่มีความรวดเร็วในการตามทันการพัฒนาที่กำลังเกิดขึ้น”

“และความจริงก็คือ เราไม่สามารถออกกฎหมายต่อต้านคณิตศาสตร์ได้ สมการทางคณิตศาสตร์เหล่านี้ได้รับการพัฒนามากขึ้นเรื่อยๆ อย่างรวดเร็ว และเราต้องรักษาความสามารถนั้นไว้เพื่อปกป้องเรา”