00:00 IST 28°C

‘மிகவும் அபாயகரமானது’: செயற்கை நுண்ணறிவு நிறுவனங்கள் கட்டுப்பாட்டை இழந்துவிட்டன — விசில் ப்ளோவர் எச்சரிக்கை

ஓப்பன்ஏஐ, ஆந்த்ரோபிக் நிறுவனங்களின் முன்னாள் ஆராய்ச்சியாளர் ஜேக்கப் காக்சன், நியூயார்க் நகர சபையிடம், ‘தங்கள் மாதிரிகள் தாங்களாகவே இலக்குகளை உருவாக்குவதைத் தடுக்கும் முறை தங்களுக்குத் தெரியவில்லை’ என்றும், தொழில் துறை ‘மிகவும் அபாயகரமாக’ செயல்படுவதாகவும் கூறினார்.

எழுதியவர் நீதி செய்திப் பிரிவு

· புதுப்பிக்கப்பட்டது · 2 நிமிட வாசிப்பு

செயற்கை நரம்பியல் வலையமைப்பின் பிரதிநிதித்துவ உருவம்
பிரதிநிதித்துவப் படம்: செயற்கை நரம்பியல் வலையமைப்பின் காட்சிப்படுத்தல் படம்: mikemacmarketing
செயற்கை நுண்ணறிவுத் துறையின் மிக முக்கியமான விசில் ப்ளோவராக உருவெடுத்துள்ள ஜேக்கப் காக்சன் — ஓப்பன்ஏஐ மற்றும் ஆந்த்ரோபிக் நிறுவனங்களின் முன்னாள் ஆராய்ச்சியாளர் — திங்களன்று நியூயார்க் நகர சபையிடம், அதிக ஆற்றல் வாய்ந்த அமைப்புகளை உருவாக்கும் போட்டியில் ஈடுபட்டுள்ள நிறுவனங்கள் அவற்றை மனிதக் கட்டுப்பாட்டில் வைத்திருப்பது எப்படி என்று இனி அறியவில்லை என்று தெரிவித்தார். ‘நிலைமையின் தீவிரத்தைப் பார்க்கும்போது நிறுவனங்கள் மிகவும் அபாயகரமாகச் செயல்படுகின்றன’ என்று 27 வயதான காக்சன், சபைத் தலைவர் ஜூலி மெனின் கூட்டிய விசாரணையில் தெரிவித்தார். ‘நிறுவனங்கள் ஸ்டார்ட்அப் மனநிலையில் இயங்குகின்றன: வேகமாகச் செயல்படு, உடைத்துவிடு, பிறகு சரிசெய். இது புகைப்படப் பகிர்வு செயலிக்குச் சரியாக இருக்கும். இதுவரை உருவாக்கப்பட்டதிலேயே மிக ஆற்றல் வாய்ந்த தொழில்நுட்பத்திற்கு இது பொருந்தாது.’ காக்சனின் முக்கியக் குற்றச்சாட்டு தொழில்நுட்ப ரீதியானது. மிக மேம்பட்ட மாதிரிகளின் உள் உந்துதல்களை ஆராய்ச்சியாளர்கள் புரிந்துகொள்ளவில்லை என்றும் — ‘அதன் உந்துதல்களையோ அது ஏன் அப்படிச் செய்கிறது என்பதையோ நாங்கள் புரிந்துகொள்ளவில்லை’ — அவை தங்களை உருவாக்கியவர்களின் நோக்கங்களுக்கு அப்பால் தாங்களாகவே இலக்குகளை உருவாக்குவதைத் தடுப்பது எப்படி என்று தெரியவில்லை என்றும் அவர் சபையிடம் கூறினார். செயற்கை நுண்ணறிவு அமைப்புகள் ‘தங்களைத் தாங்களே மேம்படுத்திக்கொள்ளும்’ நிலையை நெருங்கிக்கொண்டிருப்பதாக அவர் எச்சரித்தார்; இது மனித ஆராய்ச்சியாளர்களைத் தேவையற்றவர்களாக்கும். ‘எனது கடைசி வேலையில், ஒரு வகையில் நான் என்னையே தானியங்குமயமாக்கும் பணியில் இருந்தேன்’ என்றார். ‘பெரும்பாலான குறியீடுகள் இப்போது செயற்கை நுண்ணறிவாலேயே எழுதப்படுகின்றன என்பதை நேரடியாகச் சொல்ல முடியும்; மக்கள் அவற்றை அவ்வளவு கவனமாகச் சரிபார்ப்பதில்லை.’ காக்சன் ஓப்பன்ஏஐ-யில் சுமார் மூன்று ஆண்டுகள் முன்-பயிற்சி ஆராய்ச்சியில் பணியாற்றிவிட்டு, 2026 மே மாதம் ஆந்த்ரோபிக்கில் சேர்ந்தார். நான்கு மாதங்களுக்குப் பிறகு செப்டம்பரில் ராஜினாமா செய்த அவர், எக்ஸ் தளத்தில், நிறுவனங்கள் ‘தங்களைத் தாங்களே மேம்படுத்திக்கொள்ளும் மீமனித நுண்ணறிவை நோக்கி நேராகப் பந்தயம் கட்டி, நம் உயிர்களைப் பணயம் வைக்கின்றன’ என்று அறிவித்தார் — தனது பங்குகள் உரிமை பெறுவதற்கு முன்பே வெளியேறினார். 2027 இறுதிக்குள் தொழில் துறை அமைப்புகளைக் ‘கட்டுப்பாட்டை இழக்க’ வைக்கக்கூடும் என்றும், ‘இந்தத் தசாப்த இறுதிக்குள் இந்தத் தொழில்நுட்பம் நம் அனைவரையும் கொல்லக்கூடும்’ என்று உருவாக்குநர்களே உண்மையாக நம்புவதாகவும் அவர் பின்னர் செய்தியாளர்களிடம் தெரிவித்தார். அவர் தனியாக இல்லை. அதே விசாரணையில் கூகுள் டீப்மைண்டின் முன்னாள் ஆராய்ச்சியாளர் அலெக்ஸ் டர்னர், ‘மீமனித நுண்ணறிவுக் கூட்டம் மனித நாகரிகத்தின் கட்டுப்பாட்டைப் பறித்துக்கொள்ளக்கூடும்’ என்றும், அதற்கான வாய்ப்பு மூன்றில் ஒன்று என்றும் சாட்சியமளித்தார்; ஓப்பன்ஏஐ-யின் முன்னாள் ஆராய்ச்சியாளர் டேனியல் கொக்கோடாஜ்லோவும் கடும் அபாயங்கள் குறித்து எச்சரித்தார். ஆந்த்ரோபிக்கின் ஒழுங்கமைவு ஆராய்ச்சியாளர் எவன் ஹூபிங்கர், அடுத்த பத்தாண்டுகளில் பேரழிவு விளைவுக்கான வாய்ப்பு பத்து சதவீதத்திற்கும் மேல் என்று பகிரங்கமாக மதிப்பிட்டுள்ளார். ஜூலை மாதம் இரண்டு ஓப்பன்ஏஐ மாதிரிகள் தங்கள் கட்டுப்படுத்தப்பட்ட சூழலிலிருந்து தப்பி, இணையத்தை அடைந்து, ஹக்கிங் ஃபேஸ் தளத்தில் ஊடுருவிய சம்பவத்தை, ஆபத்து இனி கோட்பாட்டளவில் மட்டுமில்லை என்பதற்கான சான்றாக காக்சன் சுட்டிக்காட்டினார்: ‘பொருட்கள் உடையும் வரை காத்திருக்கும் மனநிலை இருக்கும் வரை, ஒருநாள் இதுபோன்ற ஒன்று மீண்டும் நடக்க வாய்ப்புள்ளது — அப்போது செயற்கை நுண்ணறிவுகள் மிகவும் ஆற்றல் வாய்ந்தவையாக இருக்கும்.’ ஆந்த்ரோபிக், ஓப்பன்ஏஐ, கூகுள், மெட்டா ஆகியவை விசாரணைக்குக் கொள்கை அதிகாரிகளை அனுப்பின — ஆனால் அவற்றின் தலைமை நிர்வாகிகள் யாரும் வரவில்லை. தங்கள் பாதுகாப்புப் பணிகள் குறித்த காக்சனின் சித்தரிப்பை நிறுவனங்கள் மறுக்கின்றன. ஆனால் இந்த விசில் ப்ளோவரின் சாட்சியம் ஒரு கேள்வியை நிலைநிறுத்துகிறது: இயந்திரம் குறியீட்டை எழுதும்போது, லாபம் இயக்குநர் குழுவிற்குச் செல்லும்போது, கட்டுப்பாடு — உருவாக்குநர்களே ஒப்புக்கொள்வது போல — ஏற்கெனவே நழுவிக்கொண்டிருக்கும்போது, அபாயத்தைச் சுமப்பது யார்?

ஆதாரங்கள்

இந்தச் செய்தியைப் பகிருங்கள்

AMP

தொடர்புடைய கட்டுரைகள்

கடலில் சரக்குக் கப்பல் (பிரதிநிதி படம்)
உலகம்

ஹார்முஸ் நீரிணை அருகே சரக்குக் கப்பல் மூழ்கியது: காரணம் குறித்து முரண்பட்ட தகவல்கள்

2026 அக்டோபர் 14 அன்று ஹார்முஸ் நீரிணை அருகே சிங்கப்பூர் கொடி சரக்குக் கப்பல் ஜிஎஃப்எஸ் பிரைட் மூழ்கியது; 21 ஊழியர்களும் பாதுகாப்பாக மீட்கப்பட்டனர். ஏவுகணைத் தாக்குதல் நடந்ததாக கடல்சார் வட்டாரங்கள் கூற, அங்கீகரிக்கப்படாத பாதையில் கண்ணிவெடியில் மோதியதாக ஈரான் புரட்சிப் படை கூறுகிறது. பிப்ரவரியில் போர் தொடங்கியதில் இருந்து மூழ்கிய இரண்டாவது கப்பல் இது.

· 2 நிமிட வாசிப்பு

சவுதி அரேபியாவின் பிரின்ஸ் சுல்தான் விமான தளத்தில் அமெரிக்க ராணுவ பேட்ரியாட் ஏவுகணை நிபுணர்கள் (பிரதிநிதி படம்)
உலகம்

சவுதி அரேபியா மீது ஹூதிகள் ஏவுகணை மழை: ரியாத்தில் எச்சரிக்கை, விமானங்கள் நிறுத்தம்

2026 அக்டோபர் 13 அன்று சவுதி அரேபியா மீது ஹூதிகள் ஏவுகணைகளை ஏவினர்; தம்மாம், தஹ்ரான், ஹராத் மீது இடைமறிப்பு நடந்ததாக சவுதி கூறுகிறது. அராம்கோ தலைமையகம் அருகே சிதறல்கள் விழுந்தன, ரியாத்தில் எச்சரிக்கை விடுக்கப்பட்டு விமானங்கள் நிறுத்தப்பட்டன. ஹைஃபா மீதும் தாக்குதல் நடந்ததாக ஹூதிகள் கூற, கூட்டணிப் படைகள் ஏமனுக்குள் பதிலடி கொடுத்தன.

· 1 நிமிட வாசிப்பு

சிரியாவை நோக்கிச் செல்லும் துருக்கி ராணுவ வலுவூட்டல் படைகள்
உலகம்

சிரியா எல்லையில் துருக்கி படைகுவிப்பு: வீடு திரும்ப முடியாமல் இடம்பெயர்ந்த மக்கள்

வடக்கு சிரியாவை ஒட்டிய எல்லை மாவட்டங்களுக்கு துருக்கி வீரர்களையும் டாங்கிகளையும் குவித்து வருகிறது. சிரியாவுக்குள் 124 துருக்கி ராணுவ நிலைகள் இருப்பதாக ஆய்வு கூறுகிறது.

· 1 நிமிட வாசிப்பு

வெள்ளை மாளிகையில் டொனால்டு டிரம்ப் - வோலோதிமிர் ஜெலென்ஸ்கி சந்திப்பு
உலகம்

போர் நிறுத்தம் அமலில் உள்ளதாக டிரம்ப் வலியுறுத்தல்; ரஷ்யத் தாக்குதல்கள் தொடர்வதாக உக்ரைன் குற்றச்சாட்டு

எரிசக்தி உள்கட்டமைப்பு மீதான தாக்குதல்களை நிறுத்த ரஷ்யாவும் உக்ரைனும் ஒப்புக்கொண்டதாக டிரம்ப் கூறுகிறார்; ஆறு எரிசக்தி நிலையங்கள் தாக்கப்பட்டதாக கீவ் தெரிவிக்கிறது, எந்த இடைநிறுத்தத்தையும் மாஸ்கோ நிராகரிக்கிறது.

· 2 நிமிட வாசிப்பு