Руль мушгиад, зам дээр давхиж явлаа гэж бодъё. Гэнэтхэн машины чинь урдуур хүүхдүүд гүйлдээд гараад ирэв. Та яаран сандран тормоз гишгэсэн ч ажиллахгүй байв. Танд хоёр сонголт үлдлээ. Нэгдүгээрт, хүүхдүүдийг дайрч өнгөрөөд өөрөө амь аврагдах. Хоёрдугаарт, хажуугийн хана, эсвэл хашлага мөргөөд, хүүхдүүдийг аврах боловч өөрийнхөө амийг эрсдэлд оруулах. Таны сонголт аль нь байх вэ?

Дийлэнх хүмүүс хоёр дахь сонголтыг хэлдэг.

Тэгвэл, таны машин автомат жолоодлоготой гэж бодъё. Та өөрөө зорчигч. Энэ тохиолдолд машин чинь хашлага мөргөж зогсоод, та амиа алдана гэвэл хэр шударга вэ? Хэрэв өөрөө жолоодож явсан бол хашлага мөргөхийг илүүд үзнэ гэж жолооч нар хариулсан байдаг. Харин автомат жолоодлоготой машинд сууж яваад хашлага мөргөж амиа алдахыг хүсэхгүй гэдгээ ч тэд илэрхийлжээ. Тиймээс амь нас, эрүүл мэндийг нь эрсдэлд оруулахуйц байдлаар програмчлагдсан бол юу гэж тийм машин худалдаж авах билээ.

Тэгвэл, тэдгээр автомат жолоодлоготой машин эгзэгтэй үед яг ямар үйлдэл хийх вэ?

Тэд програмчлалын дагуу л ажиллана. Үнэн хэрэгтээ автомат жолоодлоготой машин үйлдвэрлэгчид энэ тухай төдийлөн дурсахгүй байгаа. Apple, Ford, Mercedes-Benz тэргүүтнүүд тохиолдол болгонд энэ асуултаас эвтэйхэн бултсаар ирсэн.

Daimler AG (Mercedes-Benz-ийн толгой компани) группийн гүйцэтгэх захирал автомат жолоодлоготой автомашинууд “ямар ч үнээр хамаагүй зорчигчийн амь насыг хамгаална” гэж дуугарсан удаатай. Гэхдээ Mercedes-Benz үүнийг үгүйсгэж, яахын аргагүй мухардмал байдалд хэзээ ч орохгүй байхаар програмчлагдсан гэж мэдэгдсэн. Гэвч бодит байдал дээр тийм зүйл болохгүй гэх баталгаа байхгүй.

Харин Google энэ тал дээр тодорхой хариулт өгсөн. Тэдний автомат жолоодлоготой автомашин зам дээрх хамгаалалтгүй зорчигч, хөдөлж буй биетийг мөргөхөөс зайлсхийхээр програмчлагдсан гэж байгаа. Тэгэхээр машин хашлага мөргөж, машин доторх зорчигчийн амь нас эрсдэлд орно гэсэн үг. Хожим Google үүнийг “залруулахдаа”, зайлшгүй нөхцөлд машин хамгийн ойролцоох, овор багатай тээврийн хэрэгслийг мөргөнө хэмээжээ. Тэгэхээр машин үргэлжид хамгийн ойрын бөгөөд хамгийн жижиг биетийг “хайж”, бараадаж явах нь.

Энэ дагуу Google компани саяхан автомат жолоодлоготой машин нь автозам дээр өөрөөсөө овор ихтэй, том машинаас зай барьж, овор хэмжээ багатай машин руу дөхөх технологио патентжуулж авчээ.

Хиймэл оюун ухааны хөгжлийн өнөөгийн түвшинд роботууд өөрийгөө хөгжүүлэх шинэ шатанд хүрэх тухай мэдээлэл хэвлэлийн хуудсыг “чимж” байна. Ингэснээр роботууд өөрсдийгөө хүнтэй адил түвшинд сэтгэж, эрх, эрх чөлөө шаардаж мэднэ. Тухайлбал, орон гэр, эрүүл мэндийн тусламж үйлчилгээ, сонгох, цэргийн алба хаах, бүр цаашлаад иргэншил олгохыг хүсэх болно. Хариуд нь засгийн газар тэднээс татвар шаардана.

Ийм зүйл хэдийн биеллээ олоод эхэлчихсэн. София нэртэй роботод Саудын Араб иргэншил олгосноор анх удаа робот хүнтэй адил эрх эдлэх боломжтой болсон юм.

“Алуурчин робот” гэдэг нь хүний оролцоогүйгээр хүн алахаар програмчилсан робот, эсвэл хүний оролцоогүйгээр байг устгах төхөөрөмж гэж ойлгодог. Дроныг энэ ангилалд оруулахгүй, учир нь хүн удирддаг учраас.

Алуурчин роботын бодит жишээ гэвэл SGR-A1 төхөөрөмжийг нэрлэж болно. Энэ бол Samsung Techwin (одоо Hanwha Techwin нэртэй болсон) болон БНСУ-ын их сургуулийн эрдэмтдийн хамтран бүтээсэн харуул, хамгаалалтын зориулалттай устгагч робот юм.

SGR-A1 нь орчин тойрныг 360 хэмд хянах өндөр хүчин чадал бүхий ажиглалтын камертай бөгөөд автомат горимыг идэвхжүүлснээр хүний оролцоогүйгээр хүссэн байгаа устгаж чадна. Үүнийг Израиль болон Өмнөд Солонгост хэдийн ашиглаж эхэлсэн. Хоёр Солонгосыг заагласан цэрэггүй бүсэд БНСУ-ын тал хэд хэдэн ийм машин суурилуулжээ.

Гэхдээ Өмнөд Солонгосын эрх баригчид хэнийг устгах, үгүйг машин өөрөө “шийддэг” автомат горимыг огт идэвхжүүлдэггүй гэж мэдэгдээд байгаа. Харин хагас-автомат горимд ажиллуулснаар машин байг онилж, харин хүний оролцоотойгоор тухайн байг устгах эсэхийг шийддэг гэнэ.

Иран 2011 онд АНУ-ын цэргийн зориулалттай RQ-170 Sentinel загварын өндөр нууцлал бүхий тагнуулын дроныг бүрэн бүтнээр нь олзлон авчээ. Бүрэн бүтэн гэдгийн учир нь дроныг огт гэмтээлгүй, агаарт буудаж унагалгүй гартаа оруулсан байна. Ингэхдээ дроны GPS дохиоллыг “хуурч”, аюулгүй газарт газардаж байгаа мэт өөрөөр нь газардуулж, гартаа оруулжээ. АНУ-ын мэргэжилтнүүд энэ мэдээллийг няцааж, дроныг буудаж, ажиллагаагүй болгож унагасан гэж мэдэгдсэн юм.

Иран үнэнийг өгүүлсэн байх магадлал харьцангуй өндөр. Учир нь дрон, GPS систем, робот гээд бүгд л компьютерт суурилсан. Харин компьютерийг хакердаж болдгийг бид мэднэ. Дайны роботууд ч ялгаагүй. Хэрэв дайны зориулалттай роботыг тулалдааны талбарт гаргавал эсрэг талаас мэдээж хакердах бүх боломжит хувилбарыг эрэлхийлнэ. Эцэстээ өөрсдийнх нь эсрэг “урвуулах” боломж бүрдэнэ гэсэн үг. 

Ботыг цахим орчин дахь “амьгүй албатууд” гэж нэрлэдэг. Тэд Твиттерийг эзлээд эхэлчихсэн. АНУ-ын Өмнөд Калифорнийн их сургууль болон Индианагийн их сургуулийн эрдэмтдийн хамтарсан судалгаагаар Твиттерийн нийт 50 сая гаруй хэрэглэгчийн 15 орчим хувийг ботууд эзэлж байна. Твиттер өөрсдөө 8.5 хувь гэж мэдэгддэг. Гэхдээ эдгээр ботууд бүгд муу биш. Зарим нь сайн, зарим нь муу. Сайны жишээ дурдвал ботын урсгалын тусламжтайгаар хүмүүст байгалийн гамшгийн дохиог богино хугацаанд түгээж чадна. Харин муу жишээ гэвэл АНУ ба ОХУ-ын “цахим дайн”-ыг нэрлэж болно.

АНУ-ын 2016 оны ерөнхийлөгчийн сонгуульд ОХУ хөндлөнгөөс оролцож, америк сонгогчдын санал, итгэл үнэмшилд нөлөөлөхийн тулд ботын урсгалыг ашигласан тухай дуулиан одоо хэр нь намжаагүй байна. Их Британи Европын холбооноос гарах эсэхийг эцэслэсэн британичуудын бүх нийтийн санал асуулгад ч Орос дээрх аргаа хэрэглэсэн гэх мэдээлэл цацагдсан.

Өмнө нь Украин, Крымын хойгийн асуудлаар голчлон жиргэж байсан Оросын 150 мянга гаруй бот Брекситийн асуудлаарх бүх нийтийн санал асуулгаас хэдхэн хоногийн өмнө Их Британи Европын холбооноос гарах ёстой гэсэн “мессеж” түгээж эхлэв. Хоёр хоногийн хугацаанд тэд 45 мянга гаруй удаа жиргэжээ. Гэвч санал асуулгын хугацаа дуусахад ор сураггүй алга болсон байна.

Хүний гараар хийж, бүтээж буй ажлыг роботууд, машинууд нэг л өдөр бүрэн гүйцэтгэж чаддаг болно. Үүнд эргэлзэх хэрэггүй. Харин хэмжээ, хязгаар нь ямар байх бол?

Консалтинг болон аудитын чиглэлээр үйл ажиллагаа эрхэлдэг PricewaterhouseCoopers (PwC) фирмийн шинжээчид робот хүний ажлыг орлон гүйцэтгэх хувь хэмжээ 2030 он гэхэд Японд 21, Их Британид 30, Германд 35, Америкт 38 хувьтай байна гэж тооцоолжээ. Зуун солигдох мөчид өдгөө хүний хийж гүйцэтгэж буй ажлын талаас их хувийг роботууд дангаар гүйцэтгэх гэнэ.

Роботын давалгаанд хамгийн ихээр өртөх салбар бол тээврийн салбар. 2030 он гэхэд тээвэр ба агуулах үйл ажиллагааны 56 хувийг машин гүйцэтгэх боломжтой болно. Дараа нь үйлдвэрлэл болон жижиглэнгийн худалдааны салбарыг нэрлэжээ.

Цаг хугацааны хувьд авч үзвэл, 2027 он гэхэд ачаа тээврийн машинууд автомат жолоодлоготой болж, жижиглэнгийн худалдаа 2031 онд 50-иас доошгүй хувь нь автоматжина. 2049 онд роботууд ном, зохиол туурвиж, 2053 онд мэс засал хийдэг болно. Роботоос хамааралгүй “аврагдаж үлдэх” цөөн хэдэн ажлын нэг нь сүмийн номлогч байна. Ямар ч сүсэгтэн роботын номлол дор бурханд залбирахыг хүсэхгүй учраас тэр.

Хүн төрөлхтний адилаар роботууд ч бас хууран мэхлэх, төөрөгдүүлэх аргад суралцах болно.

АНУ-ын Атланта мужийн Жоржиягийн технологийн институтын эрдэмтэн, судлаачид нэгэн сонирхолтой бөгөөд аймшигтай алгоритм зохиожээ. Түүний тусламжтайгаар роботууд өөр бусад робот болон хүмүүсийг хуурч, төөрөгдүүлэх боломжтой болсон байна. Хэрхэх эсэхээ робот өөрөө шийднэ. Хэрэв робот хуурах замыг сонговол хуурахыг хүссэн робот, эсвэл хүн түүнийг нь олж мэдэхгүй байх арга замыг сонгох алгоритм ч мөн бий гэнэ.

Судалгааны туршилтын явцад роботод хэд хэдэн бай өгч, түүнийг хамгаалах үүрэг оноожээ. Робот тогтмол хугацаанд ойрхон давтамжтайгаар байг шалгаж байсан бөгөөд тухайн бүсэд өөр робот нэвтэрснийг мэдмэгц огт өөр, буруу байрлалд очиж, нөгөө роботыг төөрөгдүүлэхийг оролдож эхэлсэн байна.

Энэхүү туршилтыг АНУ-ын Тэнгисийн цэргийн судалгааны төвөөс санхүүжүүлсэн гэхээр дээр дурдсан алгоритм цэргийн зориулалттай байж болох юм. Онцгой ач холбогдол бүхий объектыг хамгаалж буй робот цэргүүд эсрэг талд мэдэгдсэн тохиолдолд байршлаа өөрчилж, тэднийг төөрөгдүүлэх чадвартай гэсэн үг.

Өөр нэгэн туршилтын тухай дурдъя.

Швейцарийн Лозанн хотын Холбооны политехникийн сургуулийн эрдэмтэд 1000 робот бүтээж, 10 баг болгон хуваажээ. Роботууд өгөгдсөн талбайгаас “сайн”-ыг эрэн хайж, “муу”-гаас зугтах даалгавартай. Робот бүр цэнхэр гэрэлтэй. Сайн зүйл олбол цэнхэр гэрлээ анивчуулж, багийнхаа бусад гишүүдийг дуудах ёстой.

Дээрх туршилтаас хамгийн сайн үр дүн үзүүлсэн 200 роботыг сонгож, тэдний алгоритмыг “эрлийзжүүлж”, дараагийн шатны илүү сайжруулсан робот бүтээсэн байна. Урьдын адил туршилт явуулахад роботын үр дүн онцгой дээрдсэн байжээ. Энэ мэтчилэн сайжруулалт хийгдсээр 500 дахь хувилбар гарахад робот сайныг олсон ч гэрлээ анивчуулаагүй байна. Энэ нь “амжилтаа хуваалцахаас” татгалзсан хэрэг юм. 

Хиймэл оюун ухааны зах зээл монопольчлогдоод эхэлсэн. “Акулууд” жижгүүдийг залгиж эхэлсэн, яг л зах зээлийн зарчмаар. Өнөөгийн байдлыг харвал цөөн хэдэн том корпораци хиймэл оюун ухааны зах зээлд ноёрхлоо тогтооно.

2016 оны эцсийн байдлаар харахад өнгөрсөн таван жилийн хугацаанд Apple, Facebook, Intel, Twitter, Samsung, Google компаниуд энэ салбарын 140 жижиг компанийг эгнээндээ нэгтгэжээ.

Харин 2017 оны эхний гурван сарын байдлаар технологийн салбарын том компаниуд дөнгөж гарааны бизнес эхлүүлж буй 34 компанийг “залгисан” байна. Түүнчлэн салбарын шилдэг гэсэн мэргэжилтнүүдийг өөртөө урвуулсаар байгаа юм.

Хиймэл оюун ухааныг хоёр ангилж болно. Хүчтэй бас сул. Өнөөдрийн түвшинд бидний ашиглаж байгаа хиймэл оюун ухаан бол сул хувилбар нь юм. 1987 онд шатрын их мастерыг хожсон компьютер бол сул хувилбарын арай ахисан түвшин гэж ойлгож болно. Сул ба хүчтэй гэж ангилах гол шалгуур нь хүний ухамсарт тархи шиг ажиллаж, учир шалтгааныг эргэцүүлэх чадамж юм.

Сул хиймэл оюун ухаан зөвхөн програмчлагдсан зүйлсээ хийнэ. Харин хүчтэй нь ухамсартай, эргэцүүлэх, сэтгэн бодох чадварын хувьд хүнтэй адил түвшинд байх юм. Энэ нь програмчлалаар хязгаарлагдахгүй бөгөөд хүний оролцоогүйгээр юу хийх, эс хийхээ шийдэж чаддагт оршино.

Одоогоор тийм хүчтэй хиймэл оюун ухаан бараг байхгүй, гэхдээ эрдэмтэн судлаачид боломжит хугацааг ойрын 10 жил гэж тодорхойлж байна.

Хиймэл оюун ухаан хэт хөгжсөнөөр хүн төрөлхтний мөхөл ирнэ гэх айдас бий. Яг л “Терминатор” кинонд гардаг шиг. Үүнийг хэн нэгэн судлаач, эсвэл онол дэвшүүлэгч хэлээгүй, харин ч бүр Стифен Хокинг, Элон Маск, Билл Гейтс тэргүүтэй алдартнууд үүнийг хэлсэн удаатай.

Билл Гейтсийн үзэж буйгаар хиймэл оюун ухаан хэт хөгжиж, хэт ухаантай болсноор хүн төрөлхтний хяналтаас гарна. Стифен Хокинг ч мөн ижил байр суурь илэрхийлсэн. Хиймэл ухаантнууд нэг шөнийн дотор л гэнэтхэн уур хилэнгээ дарж чадалгүй хүний эсрэг “дайн өдөөхгүй”. Харин хүссэндээ хүрэх гэж улайрснаар эцэстээ биднийг сүйрэлд хүргэж мэднэ гэж Хокинг тайлбарласан юм. Тэдний хүсэл зорилго биднийхтэй ижил байхаа болих тэр цагт машин ба хүн төрөлхтний хоорондох зөрчил эхлэх болно. Тэр үед харин бүх зүйл оройтсон байх аюултай.

Элон Маскийн хувьд хиймэл оюун ухааны хэт хөгжил, өсөлт нь “чөтгөрийг дуудаж” буйтай адил. Хүн төрөлхтний өмнө тулгарах хамгийн том аюул бол энэ. Энэхүү мөхлөөс сэргийлэхийн тулд мөнгөнд шунасан компаниуд “тэнэглэл үйлдэх”-ээс өмнө амжиж улс орны засгийн газрууд хяналт, дүрэм журам тогтоох хэрэгтэй гэж үзэж байна.