Хиймэл оюун ухааны (AI) салбарт рекурсив өөрийгөө сайжруулах (recursive self-improvement буюу RSI) хэмээх ойлголт судлаачдын анхаарлыг ихээхэн татаж, болгоомжлол дагуулж эхэллээ. Энэ нь хиймэл оюун ухаан өөрөөсөө илүү чадвартай дараагийн загварыг бүтээхэд тусалж, улмаар тэрхүү шинэ загвар нь цаашдын бүр илүү хүчирхэг хувилбарыг хөгжүүлэх үйл явц тасралтгүй үргэлжлэх тухай ойлголт юм. Өөрөөр хэлбэл, системүүд өөрсдийгөө улам чадваржуулах тал дээр тасралтгүй сайжирна гэсэн үг юм.
Энэхүү чадвар нь шинжлэх ухаан, эм зүй, инженерчлэл, програм хангамжийн салбарт асар их ахиц авчрах боломжтой ч хүн төрөлхтний хяналтаас хэт хурдан давж гарах эрсдэлтэй гэсэн болгоомжлолыг үүсгэж байна.
Салбарын тэргүүлэгчид хурдаа сааруулахыг уриалав
Claude чатботыг хөгжүүлэгч Anthropic компанийн гүйцэтгэх захирал Дарио Амодей 9 дүгээр сарын 12-нд нийтлэл бичихдээ хиймэл оюун ухааны загваруудын чадварыг сайжруулах хурдаа сааруулах ёстойг сануулжээ. Тэрээр хэрэв үүнийг хяналтгүй орхивол эдгээр системийг ойлгох, удирдах бидний чадвараас давж гарч болзошгүй тул маш болгоомжтой хандах хэрэгтэйг анхааруулсан байна.
Түүний энэхүү байр суурийг салбарын бусад томоохон төлөөлөгчид дэмжсэн юм. Тухайлбал, OpenAI компанийн гүйцэтгэх захирал Сэм Альтман хөгжүүлэлтийн хурдаа тохируулах тал дээр Дариотой санал нэгдэж байгаагаа илэрхийлсэн бол Илон Маск болон Google DeepMind-ийг хамтран үүсгэн байгуулагч Демис Хассабис нар түүний нийтлэлийг зөв зүг чиг заасан хэмээн дэмжжээ.
Хиймэл оюун ухаан одоогоор бүрэн бие даасан түвшинд хүрээгүй байна
Шинэ AI загвар бүтээхэд зөвхөн код бичихээс гадна сургах арга барилаа сонгох, өгөгдөл бэлтгэх, туршилт хийх зэрэг олон үе шат шаардагддаг. Өнөөдрийн байдлаар хиймэл оюун ухаан нь сургалтын кодыг хурдасгах эсвэл хүний сонгосон туршилтуудыг гүйцэтгэх зэрэг тодорхой даалгавруудыг хийж чадаж байгаа аж.
Гэвч ямар асуудал чухал болох, юуг судлах зэрэг үндсэн чиглэлийг хүмүүс тодорхойлж байгаа тул бүрэн бие даан дараагийн үеэ хөгжүүлэх түвшинд хараахан хүрээгүй байна. Anthropic компанийн зүгээс "Бид одоогоор тэр түвшинд хүрээгүй байгаа бөгөөд рекурсив өөрийгөө сайжруулах үзэгдэл зайлшгүй тохиолдох зүйл биш" гэж тайлбарласан бол зарим судлаачид өөрийгөө сайжруулах явцын илүү явцуу загварууд ажиллаж болохыг харуулжээ.
