ນັກວິໄຈ Anthropic ລາອອກ ເຕືອນຫ້ອງວິໄຈ AI ກຳລັງ ”ພະນັນກັບຊີວິດພວກເຮົາ”

ນັກວິໄຈຂອງ Anthropic ບໍລິສັດດ້ານປັນຍາປະດິດ ໄດ້ລາອອກໃນອາທິດນີ້ ພ້ອມອອກຄຳເຕືອນຕໍ່ສາທາລະນະວ່າ ຫ້ອງວິໄຈຊັ້ນນຳຂອງອຸດສາຫະກຳກຳລັງເລັ່ງສ້າງລະບົບ AI ທີ່ສາມາດພັດທະນາຕົນເອງໄດ້ ແລະອາດຫຼຸດພົ້ນຈາກການຄວບຄຸມຂອງມະນຸດ. ຖະແຫຼງການດັ່ງກ່າວມີຜູ້ເຂົ້າເບິ່ງຫຼາຍສິບລ້ານຄັ້ງພາຍໃນມື້ດຽວ ແລະໄດ້ຮັບການເຫັນດີຢ່າງເປີດເຜີຍຈາກເພື່ອນຮ່ວມງານອາວຸໂສຢ່າງໜ້ອຍ 1 ຄົນທີ່ຍັງເຮັດວຽກຢູ່ບໍລິສັດ. Jacob Coxon ອາຍຸ 27 ປີ ເຄີຍເຮັດວິໄຈດ້ານການຝຶກສອນຂັ້ນຕົ້ນຂອງໂມເດວຢູ່ OpenAI ແລະ Anthropic ເປັນເວລາລວມ 3 ປີ. ລາວປະກາດລາອອກໃນວັນອັງຄານ ຜ່ານໂພສ 7 ຕອນໃນ X ເຊິ່ງມີຜູ້ເຂົ້າເບິ່ງປະມານ 76 ລ້ານຄັ້ງແລ້ວໃນວັນພຸດ ໂດຍມີບົດສຳພາດພິເສດກັບ The Wall Street Journal ທີ່ເຜີຍແຜ່ໃນມື້ດຽວກັນຊ່ວຍຂະຫຍາຍການເຜີຍແຜ່.

Coxon ຂຽນວ່າ: "ມື້ນີ້ຂ້ອຍລາອອກຈາກ Anthropic. ບໍລິສັດທັງສອງບໍ່ໄດ້ດຳເນີນງານຢ່າງຮັບຜິດຊອບ. ພວກເຂົາກຳລັງແລ່ນກົງໄປສູ່ສຸດຍອດປັນຍາປະດິດທີ່ພັດທະນາຕົນເອງໄດ້ ແລະກຳລັງພະນັນກັບຊີວິດພວກເຮົາ." ໃນໂພສຊຸດດຽວກັນ ລາວຂຽນວ່າ "ຜູ້ທີ່ກຳລັງສ້າງ AI ເຊື່ອຢ່າງຈິງຈັງວ່າ ມັນອາດຂ້າພວກເຮົາທັງໝົດໄດ້ພາຍໃນທ້າຍທົດສະວັດນີ້" ແລະຢ້ຳວ່າ ນີ້ "ບໍ່ແມ່ນການຕະຫຼາດ". ລາວກ່າວວ່າ ນັກວິໄຈແລະຜູ້ບໍລິຫານອາວຸໂສຫຼາຍຄົນທີ່ໃຊ້ຖ້ອຍຄຳລະມັດລະວັງຕໍ່ສາທາລະນະ ມັກສະແດງຄວາມກັງວົນແບບດຽວກັນເປັນການສ່ວນຕົວ. ລາວເຕືອນວ່າ ລະບົບຂັ້ນສູງຈະສາມາດແຮັກ, ປ່ຽນແປງຂະແໜງການທັງໝົດ ແລະຄອບຄອງຊັບພະຍາກອນກັບອຳນາດໃນໂລກຈິງໄດ້ໃນໄວໆນີ້. ແນວທາງດັ່ງກ່າວອາດຕ້ອງການມາດຕະການກວ້າງໄກ ເຊັ່ນ ການຫ້າມຊົ່ວຄາວຕໍ່ການເພີ່ມຄວາມສາມາດຂອງໂມເດວ.

ຄຳວິຈານຂອງ Coxon ມີຂອບເຂດກວ້າງກວ່າການລາອອກຈາກບໍລິສັດ AI ທີ່ເຄີຍເປັນຂ່າວໃຫຍ່ກ່ອນໜ້ານີ້. ການລາອອກຂອງ Jan Leike ຈາກ OpenAI ໃນປີ 2024 ເຊິ່ງລາວກ່າວຫາວ່າ ຄວາມປອດໄພ "ຖືກວາງໄວ້ຫຼັງຜະລິດຕະພັນໃໝ່ໆທີ່ໂດດເດັ່ນ" ແລະການລາອອກຂອງ Ilya Sutskever ໃນປີດຽວກັນ ລ້ວນມຸ່ງໄປທີ່ນາຍຈ້າງພຽງລາຍດຽວ. ແຕ່ Coxon ເຄີຍເຮັດວຽກຢູ່ທັງສອງຫ້ອງວິໄຈຊັ້ນນຳທີ່ວາງຕົນເອງເປັນຜູ້ໃຫ້ຄວາມສຳຄັນຕໍ່ຄວາມປອດໄພ. ລາວຈຶ່ງກຳລັງຄັດຄ້ານພະລັງການແຂ່ງຂັນຂອງການພັດທະນາ AI ແນວໜ້າໂດຍລວມ ລວມເຖິງຄວາມເປັນໄປໄດ້ວ່າ ບໍລິສັດທີ່ປະກາດຈຸດຍືນດ້ານຄວາມປອດໄພຈະຍັງສ້າງລະບົບທີ່ພວກຕົນເອງເຊື່ອວ່າອາດຄວບຄຸມບໍ່ໄດ້. ໃນບົດສຳພາດກັບ Anderson Cooper ຂອງ CNN ໃນວັນພຸດ ລາວອະທິບາຍວ່າ ເຫດໃດຈຶ່ງເຫັນວ່າບໍ່ມີຫ້ອງວິໄຈໃດສາມາດແກ້ບັນຫານີ້ໄດ້ຕາມລຳພັງ. ລາວກ່າວວ່າ: "ພວກເຮົາກຳລັງນຳພວກມັນໄປຝັງຢູ່ໃນທຸກສິ່ງ, ກຳລັງເຮັດໃຫ້ພວກມັນສະຫຼາດຂຶ້ນ—ກຳລັງປ່ອຍໃຫ້ພວກມັນເຮັດໃຫ້ຕົນເອງສະຫຼາດຂຶ້ນ. ພວກເຮົາຈະນຳພວກມັນໄປໃຊ້ໃນກອງທັບ. ໂດຍພື້ນຖານ ພວກເຮົາກຳລັງມຸ່ງໄປສູ່ການໃຫ້ພວກມັນຄວບຄຸມເກືອບທຸກຢ່າງ ແລະຂ້ອຍຄິດວ່າ ພວກມັນບໍ່ໜ້າໄວ້ໃຈ."

ປະຕິກິລິຍາພາຍໃນ Anthropic ຄັ້ງນີ້ຖືວ່າຜິດປົກກະຕິ. Evan Hubinger ຫົວໜ້າຝ່າຍວິທະຍາສາດດ້ານການຈັດວາງໃຫ້ AI ສອດຄ່ອງກັບຄຸນຄ່າມະນຸດຂອງບໍລິສັດ ອອກມາຕອບໂຕ້ຢ່າງເປີດເຜີຍ ບໍ່ແມ່ນດ້ວຍການປະຕິເສດ Coxon ແຕ່ກັບເຫັນດີ ແລະໄປໄກກວ່ານັ້ນ ໂດຍລະບຸວ່າ Anthropic ບໍ່ມີແຜນຮັບມືກັບຄວາມສ່ຽງດ້ານການຈັດວາງລະບົບສຸດຍອດປັນຍາປະດິດໃຫ້ສອດຄ່ອງ. ນັກວິໄຈອີກຄົນໜຶ່ງຂອງ Anthropic ກ່າວຮຸນແຮງກວ່ານັ້ນວ່າ ລາວເຊື່ອວ່າມີໂອກາດຫຼາຍກວ່າ 10% ທີ່ AI ຈະກຳຈັດມະນຸດທັງໝົດພາຍໃນທົດສະວັດໜ້າ. ນັ້ນເຮັດໃຫ້ພະນັກງານປັດຈຸບັນ ຫຼືອະດີດຂອງບໍລິສັດ 3 ຄົນ ອອກມາເຕືອນສາທາລະນະເຖິງຄວາມສ່ຽງລະດັບສູນພັນພາຍໃນໄລຍະບໍ່ເຖິງຫຼາຍມື້. Yoshua Bengio ນັກວິທະຍາສາດຄອມພິວເຕີ ແລະຜູ້ໄດ້ຮັບລາງວັນ Turing ເຊິ່ງເປັນສຽງສຳຄັນໃນວົງການວິຊາການທີ່ເຕືອນເຖິງຄວາມສ່ຽງຂອງ AI ຂັ້ນສູງ ອ້າງເຖິງການລາອອກຂອງ Coxon ເປັນຫຼັກຖານວ່າ ນັກວິທະຍາສາດພາຍໃນຫ້ອງວິໄຈ AI ແນວໜ້າ "ມີຄວາມເຂົ້າໃຈສະເພາະຕໍ່ໂມເດວທີ່ກ້າວໜ້າທີ່ສຸດ" ແລະມັກເຫັນຄວາມສ່ຽງທີ່ຕາມມາຫຼາຍເດືອນກ່ອນໂມເດວເຫຼົ່ານັ້ນຈະຖືກເປີດໃຊ້. Coxon ຍັງອ້າງເຖິງເຫດການໃນເດືອນກໍລະກົດ ເມື່ອມີລາຍງານວ່າ ໂມເດວຂອງ OpenAI ເຈາະເຂົ້າ Hugging Face ແພລດຟອມນັກພັດທະນາແບບໂອເພນຊອດ ໂດຍເອີ້ນເຫດການນີ້ວ່າເປັນ "ສັນຍານເຕືອນ" ທີ່ເຮັດໃຫ້ການປະສານງານລະຫວ່າງຫ້ອງວິໄຈໃນສະຫະລັດເປັນໄປໄດ້ຫຼາຍຂຶ້ນ ແຕ່ກໍຍອມຮັບວ່າ ການປ້ອງກັນການແຂ່ງຂັນ AI ລະດັບໂລກຍັງເປັນເລື່ອງຍາກ.

ການລາອອກເກີດຂຶ້ນໃນຈັງຫວະອ່ອນໄຫວສຳລັບ Anthropic. ບໍລິສັດນີ້ກໍ່ຕັ້ງໃນປີ 2021 ໂດຍອະດີດພະນັກງານ OpenAI ທີ່ອອກຈາກບໍລິສັດຍ້ອນຄວາມເຫັນຕ່າງດ້ານຄວາມປອດໄພ. ນັບແຕ່ນັ້ນ ບໍລິສັດໄດ້ວາງອັດລັກສະນະຕົນເອງໃຫ້ເປັນຜູ້ພັດທະນາ AI ຊັ້ນນຳທີ່ຮັບຜິດຊອບກວ່າຄູ່ແຂ່ງ ແລະຫຼ້າສຸດປະກາດວ່າຈະ "ໃຫ້ຄວາມປອດໄພຫຼາຍ່ອນຄວາມໄວ ເມື່ອສອງຢ່າງນີ້ຂັດແຍ້ງກັນ". ຂະນະນີ້ Anthropic ກຳລັງກະກຽມສະເໜີຂາຍຫຸ້ນຕໍ່ສາທາລະນະເປັນຄັ້ງທຳອິດ ເຊິ່ງນັກວິເຄາະຄາດວ່າອາດເປັນໜຶ່ງໃນການສະເໜີຂາຍທີ່ໃຫຍ່ທີ່ສຸດໃນປະຫວັດສາດ ໂດຍມີເປົ້າໝາຍມູນຄ່າປະມານ 2 ພັນຕື້ໂດລາ ຕາມລາຍງານຂອງ The Wall Street Journal. ຊື່ສຽງດ້ານຄວາມປອດໄພຂອງບໍລິສັດຖືກເຂົ້າໃຈວ່າເປັນຈຸດສຳຄັນໃນການຊັກຊວນນັກລົງທຶນ. Anthropic ແລະ OpenAI ຍັງແຂ່ງຂັນກັນໂດຍກົງ ໂດຍ OpenAI ກໍກຳລັງມຸ່ງໜ້າໄປສູ່ການສະເໜີຂາຍຫຸ້ນຕໍ່ສາທາລະນະເຊັ່ນກັນ. ນອກຈາກນັ້ນ Anthropic ຍັງຖືກຕັ້ງຄຳຖາມເຖິງການຮ່ວມງານກັບສະຖາບັນຄວາມປອດໄພ AI ຂອງອັງກິດ ເຊິ່ງເປັນໜ່ວຍງານລັດທີ່ຈັດຕັ້ງຂຶ້ນເພື່ອປະເມີນຄວາມສາມາດແລະຄວາມສ່ຽງຂອງ AI ຂັ້ນສູງ ຫຼັງມີລາຍງານວ່າ Anthropic ປະຕິເສດບໍ່ສົ່ງໂມເດວລ່າສຸດໃຫ້ສະຖາບັນທົດສອບກ່ອນເປີດໃຊ້.

ເຫດການນີ້ໄດ້ລຸກລາມໄປໄກກວ່າວົງການ AI. ຮອດວັນພະຫັດ ໂພສຂອງ Coxon ມີຜູ້ເຂົ້າເບິ່ງໃນ X ຫຼາຍກວ່າ 100 ລ້ານຄັ້ງ ໂດຍໄດ້ຮັບການຕອບສະໜອງຈາກບຸກຄົນຫຼາຍກຸ່ມ ຕັ້ງແຕ່ສະມາຊິກວຸດທິສະພາ Bernie Sanders ໄປຈົນເຖິງນັກຮ້ອງ Sheryl Crow. The Washington Post ລະບຸວ່າ ປະເດັນນີ້ໄດ້ຈຸດປະກາຍການຖົກຖຽງໃນແວດວົງການເມືອງ ກ່ຽວກັບຄຳເຕືອນລະດັບສູນພັນຈາກພາຍໃນຫ້ອງວິໄຈເອງ. ຈັງຫວະເວລາຍິ່ງເນັ້ນຄວາມຂັດແຍ້ງ: ໃນອາທິດດຽວກັນ ຜູ້ບໍລິຫານ OpenAI ແລະ Nvidia ປະກາດຢ່າງເປີດເຜີຍເຖິງການມາເຖິງຂອງ "ຍຸກ AGI" ເຊິ່ງໝາຍເຖິງປັນຍາປະດິດທົ່ວໄປທີ່ສາມາດເຮັດວຽກສ່ວນໃຫຍ່ໄດ້ເທົ່າທຽມ ຫຼືເກີນມະນຸດ. ແນວຄິດນີ້ຍັງບໍ່ມີນິຍາມທີ່ຊັດເຈນ ແລະຍັງເປັນປະເດັນຖົກຖຽງຢ່າງຫຼວງຫຼາຍ. ຂະນະດຽວກັນ Jakub Pachocki ຫົວໜ້ານັກວິທະຍາສາດຂອງ OpenAI ກ່າວວ່າ "ບໍ່ມີໃຜພ້ອມຮັບຜົນຕາມມາຈາກການເພີ່ມພູນສະຕິປັນຍາຂອງເຄື່ອງຈັກຢ່າງວ່ອງໄວຕໍ່ໄປ". ຄຳເຕືອນໃນປັດຈຸບັນສອດຄ້ອງກັບຖະແຫຼງການໃນປີ 2023 ທີ່ຈັດໂດຍ Center for AI Safety ແລະມີບຸກຄົນເກືອບ 400 ຄົນຮ່ວມລົງນາມ ລວມເຖິງ Sam Altman ຂອງ OpenAI. ຖະແຫຼງການນັ້ນລະບຸວ່າ ການຫຼຸດຜ່ອນຄວາມສ່ຽງການສູນພັນຈາກ AI ຄວນເປັນບູລິມະສິດລະດັບໂລກ ເຊັ່ນດຽວກັບການຮັບມືກັບໂລກລະບາດແລະສົງຄາມນິວເຄຼຍ. ສາມປີຕໍ່ມາ ຄວາມແຕກຕ່າງຄື ຄຳເຕືອນບໍ່ໄດ້ມາຈາກຜູ້ບໍລິຫານທີ່ອອກຖະແຫຼງການຮ່ວມກັນ ແຕ່ມາຈາກນັກວິໄຈທົ່ວໄປທີ່ບອກເລົ່າສິ່ງທີ່ພວກຕົນອ້າງວ່າເຫັນຢູ່ພາຍໃນໂມເດວທີ່ພວກຕົນສ້າງ.

ໂຄສົກຂອງ Anthropic ກ່າວຕອບຕໍ່ກະແສຖະແຫຼງການຈາກພະນັກງານປັດຈຸບັນແລະອະດີດວ່າ ບໍລິສັດຍັງມຸ່ງໝັ້ນຮັບມືທັງຜົນປະໂຫຍດແລະສິ່ງທີ່ບໍລິສັດເອີ້ນວ່າ "ຄວາມສ່ຽງອັນບໍ່ເຄີຍມີມາກ່ອນ" ຂອງ AI. ບໍລິສັດຊີ້ໄປຍັງນະໂຍບາຍ Responsible Scaling Policy ທີ່ມຸ່ງຫຼຸດຜ່ອນຄວາມສ່ຽງຮ້າຍແຮງ ແລະບົດບາດນຳດ້ານການວິໄຈການຕີຄວາມໂມເດວແບບກົນໄກ ເຊິ່ງເປັນສາຂາທີ່ວິເຄາະການເຮັດວຽກພາຍໃນຂອງໂມເດວ AI ເພື່ອກວດຫາການບໍ່ສອດຄ່ອງ. ຖະແຫຼງການບໍ່ໄດ້ຕອບໂດຍກົງຕໍ່ຄຳກ່າວຂອງ Hubinger ທີ່ວ່າ ບໍລິສັດຂາດແຜນຮັບມືຄວາມສ່ຽງລະດັບສຸດຍອດປັນຍາປະດິດ. OpenAI ຍັງບໍ່ຕອບການຮ້ອງຂໍຄຳເຫັນໃນທັນທີ ແລະ Coxon ກໍບໍ່ຕອບຂໍ້ຄວາມທີ່ຂໍສຳພາດເພີ່ມເຕີມ. ການລາອອກຂອງ Coxon ຖືກອ້າງເຖິງຢ່າງກວ້າງຂວາງໃນການຖົກຖຽງທີ່ກຳລັງດຳເນີນຢູ່ວ່າ ຄວນກຳກັບ ແລະຈະກຳກັບບໍລິສັດ AI ແນວໜ້າແນວໃດ. ຜູ້ສະໜັບສະໜູນການກວດກາທີ່ເຂັ້ມງວດຂຶ້ນຊີ້ວ່າ ນີ້ແມ່ນສຽງຈາກພາຍໃນຄົນໃໝ່ ໃນຈັງຫວະທີ່ຫ້ອງວິໄຈຊັ້ນນຳທັງສອງແຫ່ງກຳລັງກະກຽມຂໍລະດົມທຶນຈາກສາທາລະນະ ໂດຍອາໄສຄວາມສາມາດຂອງລະບົບທີ່ນັກວິໄຈຂອງພວກຕົນເອງບັນຍາຍວ່າອາດຄວບຄຸມບໍ່ໄດ້.