Бидний тухай
Сурталчилгаа байршуулах
Редакцийн ёс зүй
Нууцлалын бодлого
Холбоо барих
Онцлох
Шинэ
Тренд
Буцах
Хиймэл оюун ухаан хурдацтай хөгжиж буй энэ үед технологи хяналтаас гарч, хүн төрөлхтнийг устгах эрсдэлтэйг Anthropic компанийн аюулгүй байдлын ахлах судлаач анхааруулжээ.
Anthropic-ийн есдүгээр сарын 9-нд нийтэлсэн мэдэгдэлдээ хиймэл оюун ухаан ойрын 10 жилийн дотор бүх хүн төрөлхтнийг устгах магадлал 10 хувиас өндөр гэж үнэлж байгаагаа хэлжээ.
Тэрээр энэхүү мэдэгдлийг Anthropic-ийн өөр нэг судлаач Жэйкоб Коксон ажлаасаа гарч, хиймэл оюун ухааны салбарын компаниуд технологийг хэт хурдацтай хөгжүүлж, аюулгүй байдлыг хангах арга замгүйгээр өөрийгөө сайжруулдаг супер оюун ухаан бүтээхээр өрсөлдөж байна хэмээн шүүмжилсэн.
Түүний үзэж буйгаар ийм технологийг хөгжүүлэхийн өмнө түүнийг хүн төрөлхтөнд аюулгүй байлгах арга замыг шийдэх шаардлагатай аж.
Тэдний анхааруулж буй гол эрсдэл нь “recursive self-improvement” буюу хиймэл оюун ухаан өөрөө өөрийнхөө илүү чадвартай хувилбарыг бүтээж, улмаар хөгжлийн хурд нь огцом нэмэгдэх боломж юм. Түүний хэлснээр ийм түвшний супер оюун ухааныг хүний ашиг сонирхолтой нийцүүлэн ажиллуулахыг хэрхэн найдвартай хангах талаар Anthropic одоогоор бүрэн шийдэлтэй болоогүй байна.
Гэхдээ өнөөдөр ашиглагдаж буй AI загварууд хүн төрөлхтөнд шууд ийм хэмжээний аюул учруулж байгаа гэж үзээгүй байна. Харин ирээдүйд бий болох илүү хүчирхэг, өөрийгөө сайжруулах чадвартай супер оюун ухааныг гол эрсдэл гэж тодорхойлжээ.
Энэ асуудал сүүлийн үед улам хурцдаж байна. Anthropic-д ажиллаж байсан Жэйкоб Коксон компаниас гарахдаа Anthropic болон OpenAI зэрэг тэргүүлэх компаниуд “өөрийгөө сайжруулдаг супер оюун ухаан руу хэт яарч байна” хэмээн шүүмжилсэн байна. Түүний үзэж буйгаар ийм технологийг хөгжүүлэхийн өмнө түүнийг хүн төрөлхтөнд аюулгүй байлгах арга замыг шийдэх шаардлагатай аж.
Ийнхүү хиймэл оюун ухааны салбарын дотор ажилладаг судлаачид өөрсдөө технологийн хөгжлийн хурд болон хүн төрөлхтөн ирээдүйд AI-ийг хянах чадвараа алдах эрсдлийн талаар улам хүчтэй анхааруулж эхэлжээ. Гэхдээ 10 хувийн үнэлгээ нь батлагдсан статистик бус, тэдний "хувийн эрсдлийн үнэлгээ" гэдгийг онцлох нь зүйтэй.
Эх сурвалж: CNN
Хиймэл оюун ухаан хурдацтай хөгжиж буй энэ үед технологи хяналтаас гарч, хүн төрөлхтнийг устгах эрсдэлтэйг Anthropic компанийн аюулгүй байдлын ахлах судлаач анхааруулжээ.
Anthropic-ийн есдүгээр сарын 9-нд нийтэлсэн мэдэгдэлдээ хиймэл оюун ухаан ойрын 10 жилийн дотор бүх хүн төрөлхтнийг устгах магадлал 10 хувиас өндөр гэж үнэлж байгаагаа хэлжээ.
Тэрээр энэхүү мэдэгдлийг Anthropic-ийн өөр нэг судлаач Жэйкоб Коксон ажлаасаа гарч, хиймэл оюун ухааны салбарын компаниуд технологийг хэт хурдацтай хөгжүүлж, аюулгүй байдлыг хангах арга замгүйгээр өөрийгөө сайжруулдаг супер оюун ухаан бүтээхээр өрсөлдөж байна хэмээн шүүмжилсэн.
Түүний үзэж буйгаар ийм технологийг хөгжүүлэхийн өмнө түүнийг хүн төрөлхтөнд аюулгүй байлгах арга замыг шийдэх шаардлагатай аж.
Тэдний анхааруулж буй гол эрсдэл нь “recursive self-improvement” буюу хиймэл оюун ухаан өөрөө өөрийнхөө илүү чадвартай хувилбарыг бүтээж, улмаар хөгжлийн хурд нь огцом нэмэгдэх боломж юм. Түүний хэлснээр ийм түвшний супер оюун ухааныг хүний ашиг сонирхолтой нийцүүлэн ажиллуулахыг хэрхэн найдвартай хангах талаар Anthropic одоогоор бүрэн шийдэлтэй болоогүй байна.
Гэхдээ өнөөдөр ашиглагдаж буй AI загварууд хүн төрөлхтөнд шууд ийм хэмжээний аюул учруулж байгаа гэж үзээгүй байна. Харин ирээдүйд бий болох илүү хүчирхэг, өөрийгөө сайжруулах чадвартай супер оюун ухааныг гол эрсдэл гэж тодорхойлжээ.
Энэ асуудал сүүлийн үед улам хурцдаж байна. Anthropic-д ажиллаж байсан Жэйкоб Коксон компаниас гарахдаа Anthropic болон OpenAI зэрэг тэргүүлэх компаниуд “өөрийгөө сайжруулдаг супер оюун ухаан руу хэт яарч байна” хэмээн шүүмжилсэн байна. Түүний үзэж буйгаар ийм технологийг хөгжүүлэхийн өмнө түүнийг хүн төрөлхтөнд аюулгүй байлгах арга замыг шийдэх шаардлагатай аж.
Ийнхүү хиймэл оюун ухааны салбарын дотор ажилладаг судлаачид өөрсдөө технологийн хөгжлийн хурд болон хүн төрөлхтөн ирээдүйд AI-ийг хянах чадвараа алдах эрсдлийн талаар улам хүчтэй анхааруулж эхэлжээ. Гэхдээ 10 хувийн үнэлгээ нь батлагдсан статистик бус, тэдний "хувийн эрсдлийн үнэлгээ" гэдгийг онцлох нь зүйтэй.
Эх сурвалж: CNN