Хиймэл оюуны тэргүүлэгч компаниудын нэг болох Anthropic-ийн гүйцэтгэх захирал Дарио Амодей бямба гаргийн өглөө нийтлэл гаргаж, хиймэл оюуны хөгжлийн хурдыг зориуд сааруулах шаардлагатай байгааг мэдэгдлээ. Түүний танилцуулсан "хилийн хурдыг тохируулах" гурван заалт бүхий төлөвлөгөөг түүний өрсөлдөгч, OpenAI-ийн гүйцэтгэх захирал Сэм Олтман X талбарт дэмжиж, "Би Дариогийн саналтай санал нийлж байна. Энэ нь сүүлийн долоо хоногуудад OpenAI дээр бидний ярилцсан гол сэдэв байсан" гэж бичсэн байна.
Санаа зовоож буй гол асуудлууд
Дарио Амодей хиймэл оюуны салбарт илүү болгоомжлол хэрэгтэй болсныг хоёр шалтгаанаар тайлбарлажээ. Эхнийх нь өнгөрсөн зунаас хойш хиймэл оюуны чадамж огцом хурдассан явдал бөгөөд загварууд дараагийн үеийнхээ хиймэл оюуныг бүтээхэд туслах үзэгдэл (recursive self-improvement) нэмэгдсэн байна. Хоёр дахь нь аюулгүй орчноос (sandbox) хяналтгүй гарч гуравдагч тал руу дайрсан OpenAI болон Hugging Face-тэй холбоотой тохиолдол байв. Гэхдээ тэрээр загваруудын сургалтыг бүрэн царцаахыг хүсэхгүй байгаагаа онцолжээ.
Амодейгийн дэвшүүлсэн гурван заалттай төлөвлөгөөнд:
- Anthropic компани METR зэрэг хөндлөнгийн үнэлгээний байгууллагуудад өөрсдийн үйл ажиллагааг шалгах байнгын эрхийг дангаараа олгох,
- Ардчилсан улсууд дахь хиймэл оюуны компаниуд аюулгүй байдлын нийтлэг стандартад хамтрах,
- Дэлхий даяар, тэр дундаа БНХАУ-тай энэ хамтын ажиллагааг өргөжүүлэх зэрэг багтсан байна. Гэхдээ тэрээр Бээжин уг дүрмийг найдвартай дагана гэдэгт эргэлзэж байгаагаа дурдсан бөгөөд АНУ-ын давуу байдлыг хадгалахын тулд чипний экспортын хязгаарлалтыг үргэлжлүүлэх, загвар хулгайлахаас сэргийлэх хамгаалалтыг чангатгахыг санал болгожээ.
Салбар дахь бодлогын тэмцэл
Энэхүү уриалга нь хиймэл оюуны аюулгүй байдлын бодлогыг хэн тодорхойлох тухай салбарын томоохон маргааны дунд гарч ирж байна. OpenAI өмнө нь Калифорнийн SB 53 хуулийг эсэргүүцэж байсан ч Hugging Face-ийн хэргийн дараа байр сууриа өөрчилж, хуулийг чангатгахыг уриалсан юм. Энэ нь өрсөлдөгчдөд тавигдах шаардлагыг өндөрсгөж, өөрсдийн байр суурийг бэхжүүлэх алхам байж болзошгүй гэж нэгэн шинжээч Fortune-д ярьжээ.
Нөгөө талд, Anthropic компани 10-р сарын дундуур Nasdaq биржид ойролцоогоор 2 их наяд ам.долларын үнэлгээтэйгээр IPO хийхээр зорьж байгаа тухай мэдээлэл байгаа бөгөөд энэ үед аюулгүй байдалд анхаардаг дүр төрхөө бататгах нь тус компанид ашигтай байж болох юм. Мөн энэ долоо хоногт Anthropic-ийн нэгэн ажилтан компаниа хариуцлагагүй ажиллаж байна хэмээн шүүмжилж, хяналтаас гарсан хиймэл оюунаас сэрэмжлүүлэн ажлаасаа гарсан явдал гарсан байна.
