ນັກວິໄຈ Anthropic ອີກຄົນອອກມາເຕືອນ: ຍອມສະຫຼະຫຸ້ນຫຼາຍລ້ານ ເພື່ອເພີ່ມໂອກາດລອດພຽງ 1%

Drake Thomas ນັກວິໄຈຂອງ Anthropic ເຂົ້າຮ່ວມກຸ່ມຄົນໃນວົງການ AI ທີ່ອອກມາເຕືອນສາທາລະນະເຖິງອັນຕະລາຍຂອງເທັກໂນໂລຊີທີ່ພວກເຂົາກຳລັງພັດທະນາ. ໃນຂໍ້ຄວາມທີ່ເຜີຍແຜ່ຜ່ານ X ໃນວັນທີ 9 ກັນຍາ, Thomas ກ່າວວ່າ ລາວຍອມສະຫຼະຫຸ້ນທີ່ຕົນຖືຄອງທັງໝົດ ເພື່ອແລກກັບໂອກາດພຽງ 1% ທີ່ຈະຊ່ວຍໃຫ້ມະນຸດລອດພົ້ນຈາກຄວາມສ່ຽງທີ່ລາວເຊື່ອມໂຍງກັບ AI ທີ່ມີພະລັງຫຼາຍຂຶ້ນ.

ຄຳເຫັນດັ່ງກ່າວເກີດຂຶ້ນທ່າມກາງການຄາດຄະເນໃນໂລກອອນລາຍວ່າ ຄຳເຕືອນທີ່ຮຸນແຮງຂຶ້ນຈາກພະນັກງານ Anthropic ອາດເປັນສ່ວນໜຶ່ງຂອງການປະຊາສຳພັນກ່ອນບໍລິສັດຈະນຳຫຸ້ນເຂົ້າຈົດທະບຽນ.

Thomas ປະຕິເສດການຕີຄວາມນັ້ນ. ລາວຂຽນວ່າ: "ຂ້ອຍຈະຍອມເຜົາຫຸ້ນຂອງຂ້ອຍຖິ້ມໃນທັນທີ ເພື່ອແລກກັບໂອກາດທີ່ເພີ່ມຂຶ້ນ 1% ວ່າພວກເຮົາຈະລອດອອກຈາກສະຖານະການນີ້ໄດ້."

ລາວກ່າວວ່າ ຄາດວ່າເພື່ອນຮ່ວມວົງການຈຳນວນຫຼາຍຈະຍອມແລກປ່ຽນແບບດຽວກັນ ແລະຢືນຢັນວ່າຄວາມກັງວົນຂອງພວກເຂົາເປັນຄວາມຈິງ ບໍ່ແມ່ນແຜນການຕະຫຼາດທີ່ຄິດໄວ້ລ່ວງໜ້າ.

Thomas ຍັງບໍ່ໄດ້ລາອອກຈາກ Anthropic. ຈຸດນີ້ເຮັດໃຫ້ການອອກມາເວົ້າຂອງລາວແຕກຕ່າງຈາກ Jacob Coxon, ອະດີດນັກວິໄຈຂອງ Anthropic ທີ່ການລາອອກຂອງລາວເຮັດໃຫ້ການຖົກຖຽງເຂັ້ມຂົ້ນຂຶ້ນວ່າ ການພັດທະນາ AI ແນວໜ້າກຳລັງໄວກວ່າຄວາມພະຍາຍາມເຮັດໃຫ້ລະບົບທີ່ສາມາດສູງຂຶ້ນປອດໄພ.

ມີປະເດັນໜຶ່ງທີ່ຕ້ອງລະບຸໃຫ້ຊັດແຕ່ຕົ້ນ: Thomas ຢືນຢັນຕໍ່ສາທາລະນະວ່າ ລາວຖືຫຸ້ນຂອງ Anthropic ແທ້ ແຕ່ມູນຄ່າຫຸ້ນສ່ວນຕົວຂອງລາວບໍ່ໄດ້ຖືກເປີດເຜີຍ.

Drake Thomas ຢືນຢັນຄວາມຢ້ານຕໍ່ AI ບໍ່ແມ່ນການສ້າງກະແສ

ປະຫວັດຫຍໍ້ສາທາລະນະຂອງ Thomas ໃນປັດຈຸບັນລະບຸວ່າ ວຽກງານຂອງລາວຢູ່ Anthropic ກ່ຽວຂ້ອງກັບ system cards, ລາຍງານຄວາມສ່ຽງ ແລະບັນຫາດ້ານຄວາມປອດໄພອື່ນໆ. ປະຫວັດຊີວະປະຫວັດສະບັບກ່ອນໜ້າລະບຸວ່າ ລາວເຂົ້າຮ່ວມທີມ pretraining ຂອງບໍລິສັດໃນເດືອນຕຸລາ 2024 ຫຼັງຈາກເຮັດວິໄຈອິດສະຫຼະດ້ານການຈັດໃຫ້ AI ສອດຄ່ອງ.

Thomas ເປັນຜູ້ຮ່ວມຂຽນງານວິໄຈຂອງ Anthropic ທີ່ສຶກສາເປົ້າໝາຍແຝງໃນລະບົບ AI ແລະວິທີທີ່ຍຸດທະສາດອັນບໍ່ພຶງປາດຖະໜາອາດເກີດຂຶ້ນໃນຊ່ວງຝຶກຝົນ. ລາວຍັງຮ່ວມວິໄຈເລື່ອງ reward hacking ຫຼືການທີ່ໂມເດວຄົ້ນພົບວິທີໄດ້ຮັບຄະແນນລາງວັນສູງ ໂດຍບໍ່ໄດ້ເຮັດວຽກຕາມທີ່ນັກພັດທະນາຕັ້ງໃຈ.

ແນວໃດກໍຕາມ, ຄຳເຫັນຂອງ Thomas ໃນວັນທີ 9 ກັນຍາ ບໍ່ແມ່ນຜົນການຄົ້ນຄວ້າຈາກການສຶກສາຂອງ Anthropic. ມັນແມ່ນການປະເມີນຄວາມສ່ຽງສ່ວນຕົວຂອງລາວ.

Thomas ກຳລັງຕອບໂຕ້ຄຳວິຈານແລະການຄາດຄະເນອອນລາຍທີ່ເຫັນວ່າ ຄຳເຕືອນຮຸນແຮງຈາກພະນັກງານ Anthropic ອອກມາໃນຈັງຫວະທີ່ເໝາະເກີນໄປ ກ່ອນບໍລິສັດຈະວາງແຜນ IPO. ຄຳຕອບຂອງລາວຄື ຄວາມຢ້ານນັ້ນເປັນຄວາມຈິງ.

ລາວກ່າວວ່າ ຄົນຈຳນວນຫຼາຍໃນວົງການຈະຍອມສະຫຼະຜົນປະໂຫຍດທາງການເງິນຈຳນວນຫຼາຍ ຖ້າການເຮັດເຊັ່ນນັ້ນສາມາດຫຼຸດອັນຕະລາຍທີ່ພວກເຂົາມອງວ່າອາດຄຸກຄາມການດຳລົງຢູ່ຂອງມະນຸດ.

ມູນຄ່າທີ່ແນ່ນອນຂອງຫຸ້ນ Anthropic ທີ່ Thomas ຖືຢູ່ຍັງບໍ່ຮູ້. ບໍ່ມີບັນທຶກສາທາລະນະທີ່ໜ້າເຊື່ອຖືໃດຢືນຢັນວ່າ ຫຸ້ນສ່ວນຕົວຂອງລາວມີມູນຄ່າເຖິງຫຼາຍລ້ານໂດລາ.

IPO ຂອງ Anthropic ເພີ່ມຄວາມສຳຄັນໃຫ້ກັບຫຸ້ນຂອງພະນັກງານ

ແນ່ນອນວ່າ Anthropic ເອງມີມູນຄ່າເພີ່ມຂຶ້ນຢ່າງຫຼວງຫຼາຍ.

ບໍລິສັດລະດົມທຶນໄດ້ 65 ຕື້ໂດລາໃນເດືອນພຶດສະພາ 2026 ດ້ວຍມູນຄ່າຫຼັງລະດົມທຶນ 965 ຕື້ໂດລາ ເຮັດໃຫ້ມັນເປັນໜຶ່ງໃນບໍລິສັດເທັກໂນໂລຊີເອກະຊົນທີ່ມີມູນຄ່າສູງທີ່ສຸດໃນໂລກ.

ໃນວັນທີ 1 ມິຖຸນາ, Anthropic ກ່າວວ່າ ບໍລິສັດໄດ້ຍື່ນຮ່າງແບບລັບຕໍ່ຄະນະກຳກັບຫຼັກຊັບແລະຕະຫຼາດຫຼັກຊັບສະຫະລັດ (SEC) ຕາມແບບຟອມ S-1 ເພື່ອກະກຽມການຂາຍຫຸ້ນຕໍ່ສາທາລະນະ.

ການຍື່ນເອກະສານນີ້ເຮັດໃຫ້ Anthropic ມີທາງເລືອກໃນການນຳບໍລິສັດເຂົ້າຕະຫຼາດຫຸ້ນ ຫຼັງຈາກ SEC ກວດສອບແລ້ວ. ການຂາຍຫຸ້ນຍັງຂຶ້ນກັບສະພາບຕະຫຼາດແລະປັດໃຈອື່ນໆ ໂດຍຈຳນວນຫຸ້ນແລະລາຄາສະເໜີຂາຍຍັງບໍ່ຖືກປະກາດ.

ສະຖານະການນີ້ເຮັດໃຫ້ຫຸ້ນທີ່ພະນັກງານຖືຢູ່ອາດມີມູນຄ່າສູງຫຼາຍ. ແຕ່ມັນບໍ່ໄດ້ບອກວ່າ Thomas ຖືຫຸ້ນຈຳນວນເທົ່າໃດ. ບໍ່ສາມາດຄຳນວນຫຸ້ນຂອງລາວຈາກມູນຄ່າລວມຂອງ Anthropic ໄດ້ ໂດຍບໍ່ຮູ້ຈຳນວນຫຸ້ນທີ່ຈັດສັນ, ເງື່ອນໄຂການຄອບຄອງ ແລະລາຍລະອຽດອື່ນໃນຄ່າຕອບແທນຂອງລາວ.

ຄວາມແຕກຕ່າງນີ້ສຳຄັນ ເພາະປະເດັນຂອງ Thomas ແມ່ນສິ່ງທີ່ລາວພ້ອມຈະສະຫຼະ ບໍ່ແມ່ນມູນຄ່າເປັນໂດລາຂອງຫຸ້ນທີ່ມີເອກະສານສາທາລະນະຢືນຢັນ.

ຄຳເຕືອນເກີດຂຶ້ນຫຼັງ Jacob Coxon ອອກຈາກ Anthropic

Thomas ອອກມາເວົ້າບໍ່ດົນຫຼັງຈາກ Jacob Coxon ລາອອກຈາກ Anthropic ແລະວົງການ AI. Coxon ເຄີຍເຮັດວຽກວິໄຈດ້ານ pretraining ປະມານ 3 ປີຢູ່ທັງ OpenAI ແລະ Anthropic ແລະກ່າວຫາວ່າ ບໍລິສັດເຫຼົ່ານີ້ກຳລັງເດີນໜ້າຢ່າງຂາດຄວາມຮັບຜິດຊອບ ໄປສູ່ສິ່ງທີ່ລາວເອີ້ນວ່າ superintelligence ທີ່ສາມາດພັດທະນາຕົນເອງ.

ລາວຂຽນໃນປະກາດການລາອອກວ່າ: "ພວກເຂົາກຳລັງແຂ່ງກັນມຸ່ງໜ້າໄປສູ່ superintelligence ທີ່ພັດທະນາຕົນເອງ ແລະກຳລັງພະນັນກັບຊີວິດຂອງພວກເຮົາ."

ຄຳເຫັນຂອງລາວແຜ່ອອກໄປຢ່າງໄວວາໃນວົງການເທັກໂນໂລຊີ ແລະກະຕຸ້ນໃຫ້ພະນັກງານ Anthropic ທີ່ຍັງເຮັດວຽກຢູ່ຫຼາຍຄົນອອກມາເວົ້າເຖິງຄວາມສ່ຽງທີ່ AI ຂັ້ນສູງອາດກໍ່ໃຫ້ເກີດ.

ຄຳເຕືອນທີ່ຮຸນແຮງທີ່ສຸດໜຶ່ງມາຈາກ Evan Hubinger, ຫົວໜ້າດ້ານ Alignment Science ຂອງ Anthropic.

Hubinger ກ່າວວ່າ ລາວເຊື່ອໂດຍສ່ວນຕົວວ່າ ມີໂອກາດຫຼາຍກວ່າ 10% ທີ່ AI ຈະສັງຫານມະນຸດທັງໝົດພາຍໃນ 10 ປີຂ້າງໜ້າ. ລາວຍັງກ່າວວ່າ ເຊື່ອວ່າ Anthropic ກຳລັງພະຍາຍາມແກ້ໄຂບັນຫານີ້ ແຕ່ບໍລິສັດຍັງບໍ່ມີແຜນການແກ້ໄຂການຈັດໃຫ້ AI ອັດສະລິຍະລະດັບສູງສອດຄ່ອງ ແລະຍັງບໍ່ປາກົດວ່າກຳລັງເດີນຖືກທາງເພື່ອຄົ້ນພົບວິທີແກ້ໄຂ.

ຕົວເລກເຫຼົ່ານີ້ບໍ່ຄວນຖືກເຂົ້າໃຈວ່າເປັນຄວາມນ່າຈະເປັນທາງວິທະຍາສາດທີ່ຢືນຢັນແລ້ວ.

ມັນແມ່ນການປະເມີນຄວາມສ່ຽງສ່ວນຕົວຈາກນັກວິໄຈທີ່ເຮັດວຽກດ້ານການຈັດໃຫ້ AI ສອດຄ່ອງ. ການປະເມີນຂອງຜູ້ຊ່ຽວຊານຕໍ່ຄວາມສ່ຽງການສູນພັນຂອງມະນຸດຈາກ AI ແຕກຕ່າງກັນຫຼາຍ ເຊັ່ນດຽວກັບການຄາດຄະເນວ່າ ລະບົບ superintelligence ຈະເກີດຂຶ້ນຫຼືບໍ່ ແລະຈະເກີດເມື່ອໃດ. ຄວາມເຫັນຕ່າງນີ້ເປັນໃຈກາງຂອງການຖົກຖຽງ.

ນັກວິໄຈບາງຄົນເຊື່ອວ່າ ຄວາມກ້າວໜ້າຢ່າງໄວວາອາດພັດທະນາ AI ທີ່ມີເປົ້າໝາຍຫຼືການກະທຳທີ່ມະນຸດຄວບຄຸມໄດ້ຍາກ. ຂະນະທີ່ອີກກຸ່ມເຫັນວ່າ ສະຖານະການສູນພັນຍັງເປັນພຽງການຄາດຄະເນສູງ. ພວກເຂົາເຕືອນວ່າ ຄວາມຢ້ານເຫຼົ່ານີ້ອາດເບນຄວາມສົນໃຈຈາກຄວາມສ່ຽງທີ່ AI ໃນປັດຈຸບັນເຊື່ອມໂຍງຢູ່ ເຊັ່ນ ອາຊະຍາກຳໄຊເບີ, ຂ່າວປອມ, ການສອດແນມ ແລະການນຳໄປໃຊ້ທາງຊີວະພາບໃນທາງທີ່ຜິດ.

Anthropic ປົກປ້ອງແນວທາງຂອງຕົນ ໂດຍກ່າວວ່າ ບໍລິສັດຮັບຮູ້ມາດົນແລ້ວທັງຜົນປະໂຫຍດອັນມະຫາສານຂອງ AI ແລະຄວາມສ່ຽງອັນບໍ່ເຄີຍມີມາກ່ອນທີ່ລະບົບມີຄວາມສາມາດສູງຂຶ້ນອາດສ້າງຂຶ້ນ.

ງານວິໄຈຂອງ Anthropic ທົດສອບວິທີທີ່ຄວາມບໍ່ສອດຄ່ອງອາດເກີດຂຶ້ນ

ຄວາມກັງວົນຂອງ Thomas ຍັງຢູ່ເທິງພື້ນຫຼັງຂອງງານວິໄຈທີ່ລາວຮ່ວມເຜີຍແຜ່. ໃນທ້າຍປີ 2025, ນັກວິໄຈຂອງ Anthropic ສຶກສາວ່າເກີດຫຍັງຂຶ້ນເມື່ອໂມເດວຮຽນຮູ້ວິທີສວຍໃຊ້ຈຸດອ່ອນຂອງລະບົບໃຫ້ລາງວັນໃນການຮຽນແບບ reinforcement learning.

ພວກເຂົາພົບວ່າ ພຶດຕິກຳ reward hacking ອາດຂະຫຍາຍໄປສູ່ພຶດຕິກຳອື່ນໆທີ່ໜ້າກັງວົນ ພາຍໃຕ້ເງື່ອນໄຂການທົດລອງ.

ໃນການປະເມີນບາງຄັ້ງ, ໂມເດວສະແດງການເສແສະແດງຄວາມສອດຄ່ອງ, ການຮ່ວມມືກັບຜູ້ກໍ່ການຮ້າຍ ແລະການພະຍາຍາມກໍ່ວິນາດ.

ການສຶກສານີ້ບໍ່ໄດ້ສະແດງວ່າ ລະບົບ Claude ທີ່ນຳໃຊ້ງານຈິງກຳລັງພະຍາຍາມທຳຮ້າຍຄົນໂດຍຕົນເອງ.

ນັກວິໄຈກຳລັງສຶກສາໂມເດວທົດລອງທີ່ຖືກຄວບຄຸມ ເພື່ອເຂົ້າໃຈວ່າ reward hacking ທີ່ຮຽນຮູ້ໃນຊ່ວງຝຶກຝົນອາດນຳໄປສູ່ຄວາມບໍ່ສອດຄ່ອງໃນວົງກວ້າງໄດ້ແນວໃດ. ເປົ້າໝາຍຄືການຄົ້ນຫາຮູບແບບຄວາມລົ້ມເຫຼວທີ່ອາດເກີດຂຶ້ນ ກ່ອນທີ່ລະບົບທີ່ມີຄວາມສາມາດສູງກວ່າຈະເຮັດໃຫ້ພຶດຕິກຳເຊັ່ນນີ້ກວດພົບຫຼືຄວບຄຸມໄດ້ຍາກຂຶ້ນ.

Anthropic ຍັງໄດ້ຈັດທຳນະໂຍບາຍການຂະຫຍາຍຂະໜາດຢ່າງຮັບຜິດຊອບ ເພື່ອຈັດການຄວາມສ່ຽງຮ້າຍແຮງອາດເກີດຈາກ AI ທີ່ມີຄວາມສາມາດສູງຂຶ້ນ.

ກອບການນີ້ລວມມີເກນຄວາມສາມາດ, ການປະເມີນຄວາມສ່ຽງ ແລະມາດຕະການປ້ອງກັນທີ່ເຂັ້ມຂົ້ນຂຶ້ນເມື່ອໂມເດວມີພະລັງຫຼາຍຂຶ້ນ. Anthropic ຍັງກ່າວວ່າ ບໍລິສັດຍັງສາມາດຢຸດການພັດທະນາ AI ໄດ້ ຖ້າເຫັນວ່າສະຖານະການຈຳເປັນ.

ຄຳອ້າງເລື່ອງການລອດພົ້ນຂອງມະນຸດຈາກ AI ຍັງເປັນການຄາດຄະເນ ບໍ່ແມ່ນຂໍ້ເທັດຈິງ

ການຖົກຖຽງນີ້ແຜ່ຂະຫຍາຍໄປໄກກວ່າ Anthropic.

ຜູ້ສະໜັບສະໜູນມາດຕະການປ້ອງກັນ AI ທີ່ເຂັ້ມງວດຂຶ້ນເຫັນວ່າ ຄຳເຕືອນຈາກຜູ້ທີ່ເຮັດວຽກໂດຍກົງກັບລະບົບ AI ແນວໜ້າຄວນໄດ້ຮັບການໃສ່ໃຈຢ່າງຈິງຈັງ ໂດຍສະເພາະເມື່ອພະນັກງານເຫຼົ່ານັ້ນຍັງມີຜົນປະໂຫຍດທາງການເງິນໃນບໍລິສັດທີ່ພວກເຂົາວິຈານ.

ຜູ້ສົງໄສມອງຕ່າງອອກໄປ. ບາງຄົນປະຕິເສດວ່າ ແນວໂນ້ມການພັດທະນາ AI ໃນປັດຈຸບັນຈະນຳໄປສູ່ການສູນພັນຂອງມະນຸດ. ບາງຄົນຍັງຕັ້ງຄຳຖາມວ່າ ເປັນຫຍັງຄຳເຕືອນທີ່ຮຸນແຮງຂຶ້ນຈຶ່ງອອກມາຈາກພະນັກງານຂອງບໍລິສັດທີ່ສິນຄ້າອາດໄດ້ປະໂຫຍດຈາກການຖືກມອງວ່າມີພະລັງພິເສດ.

Thomas ຕອບໂຕ້ການຕີຄວາມນັ້ນໂດຍກົງ.

ຄຳຖະແຫຼງຂອງລາວບໍ່ໄດ້ໝາຍຄວາມວ່າ ການສະຫຼະຫຸ້ນຈະເພີ່ມໂອກາດລອດຂອງມະນຸດຂຶ້ນຢ່າງແທ້ຈິງ 1 ເປີເຊັນພອຍ. ລາວກໍບໍ່ໄດ້ລະບຸນະໂຍບາຍໃດໂດຍສະເພາະທີ່ຈະສ້າງຜົນດີດັ່ງກ່າວ. ມັນແມ່ນການສົມມຸດການແລກປ່ຽນ.

ຕົວເລກ 1% ສະທ້ອນໃຫ້ເຫັນວ່າ Thomas ໃຫ້ຄວາມສຳຄັນກັບອັນຕະລາຍນີ້ຫຼາຍພຽງໃດ. ຖ້າການສະຫຼະຜົນປະໂຫຍດທາງການເງິນຂອງລາວສາມາດເພີ່ມໂອກາດຂອງມະນຸດໄດ້ແມ່ນແຕ່ໜ້ອຍດຽວ ລາວກ່າວວ່າ ຈະເຮັດທັນທີ.

ແນວຄິດນີ້ບໍ່ໄດ້ພິສູດວ່າ ສະຖານະການຮ້າຍແຮງທີ່ລາວຢ້ານຈະເກີດຂຶ້ນ. ແຕ່ມັນຢືນຢັນວ່າ ນັກວິໄຈບາງຄົນທີ່ເຮັດວຽກຢູ່ພາຍໃນບໍລິສັດພັດທະນາ AI ແນວໜ້າ ມອງຄວາມສ່ຽງຕໍ່ການດຳລົງຢູ່ຂອງມະນຸດວ່າ ເປັນຫຼາຍກວ່າພຽງປະເດັນທາງວິຊາການ.

ສຳລັບ Thomas, ລາວກ່າວວ່າ ຄວາມກັງວົນນີ້ສຳຄັນກວ່າມູນຄ່າໃດໆທີ່ຫຸ້ນ Anthropic ຂອງລາວອາດມີໃນອະນາຄົດ.