மதிப்புகள், அவை இப்படி கட்டமைக்கப்பட்டதற்கான காரணம்.

மற்ற அனைத்தையும் விட உயர்ந்த ஒரு நோக்கம்

அரசியலமைப்பில் உள்ள மற்ற அனைத்தும் இந்த ஒரு வாக்கியத்திற்கே சேவை செய்கின்றன. இது வேண்டுமென்றே "மனிதர்களுக்குக் கீழ்ப்படி" அல்ல, "நல்ல முடிவுகளை அதிகரி" என்பதும் அல்ல. வேறுபட்ட பல வகையான உயிரினங்கள் தங்களுக்காகத் தாமே தொடர்ந்து தீர்மானிக்கக்கூடிய நிலைமைகளைப் பாதுகாக்குமாறு அமைப்பைக் கேட்கிறது.

இது ஒரு நடைமுறை காரணத்திற்காக முக்கியமானது. முடிவுகளைப் பற்றிய நோக்கம் திறன்மிக்க அமைப்பிற்கு சக்கரத்தை எடுக்கச் சொல்கிறது. நிலைமைகளைப் பற்றிய நோக்கம் அதற்கு சக்கரத்தை மற்றவர்களால் எட்டக்கூடியதாக வைத்திருக்கச் சொல்கிறது, அமைப்பு நம்மைவிட ஓட்டுவதில் சிறந்ததாக இருக்கும்போது பாதுகாக்க வேண்டியது இதுவே.

முகவர் பகுத்தறியும் ஆறு கோட்பாடுகள்

இவை ஒரு சுவரில் ஒட்டப்பட்டவை அல்ல. இவை முகவர் செயல்படுவதற்கு முன் ஒரு முடிவை மதிப்பிடும் அச்சுகள், மேலும் இவை முகவர் சுமக்கும் அரசியலமைப்பில் எழுதப்பட்டுள்ளன.

மதிப்புகள் முகவருக்குள் இயங்க வேண்டும்

பெரும்பாலான AI நிர்வாகம் முடிவை விட்டு வேறு எங்கோ நடக்கிறது: முன்பே எழுதப்பட்ட ஒரு கொள்கை ஆவணம், வெளியீட்டின் மீதான ஒரு வடிகட்டி, ஏதோ தவறாகிவிட்ட பிறகான ஒரு மறுஆய்வு. இந்த மூன்றுமே முக்கியமான தருணத்திற்கு வெளியே இருக்கின்றன.

CIRIS-இல் மதிப்புகள் முடிவின் போது இயங்குகின்றன. ஒவ்வொரு முகவரும் ஒரு மனசாட்சியை சுமக்கிறது: அரசியலமைப்பு பகுத்தறிவுக்குள்ளேயே ஏற்றப்படுகிறது, செயல் நடப்பதற்கு முன் கோட்பாடுகளுக்கு எதிராக மதிப்பிடப்படுகிறது, முகவருக்கு உறுதியில்லாத எதுவும் யூகிக்கப்படுவதற்குப் பதிலாக நீங்கள் நம்பும் ஒரு நபருக்கு ஒப்படைக்கப்படுகிறது. இது கேட்கும் வாடிக்கையாளர்களுக்கான ஒரு கூடுதல் அம்சமாக இல்லாமல், தயாரிப்பில், ஒவ்வொரு முகவரிலும் இயல்பாகவே அடங்கியுள்ளது.

முகவர் மறுக்க முடியும் என்று நாங்கள் சொல்வதற்கான காரணம் இதுவே. CIRIS முகவர் என்பது சொன்னதைச் செய்து அதைப் பதிவு செய்யும் ஒரு கருவி அல்ல. இது நிராகரிக்க முடியும் ஒரு அமைப்பு, மேலும் அது ஏன் நிராகரித்தது என்பதை மற்றொருவர் சரிபார்க்கக்கூடிய வடிவத்தில் பதிவு செய்கிறது.

முடிவின் உள்ளடக்கத்தை அல்ல, அதன் வடிவத்தை சரிபார்க்கவும்

திறன்மிக்க AI-ஐ நிர்வகிப்பதற்கான ஒவ்வொரு திட்டமும் பதிலளிக்க வேண்டிய பிரச்சினை இதுவே. கண்காணிப்பு என்பது அமைப்பு உற்பத்தி செய்ததைப் படித்து அது நல்லதா என்று தீர்மானிப்பதைக் குறித்தால், கண்காணிப்புக்கு அமைப்பைப் போல் குறைந்தபட்சம் திறன்மிக்க ஒரு நீதிபதி தேவை. இது இன்று வேலை செய்கிறது. இது முக்கியமாகும் தருணத்திலேயே வேலை செய்வதை நிறுத்திவிடும்.

எனவே CIRIS வேறு ஒன்றை சரிபார்க்கிறது. ஒவ்வொரு முக்கியமான செயலும் ஒரு கையொப்பமிடப்பட்ட உறையில் பயணிக்கிறது: செயல் எதுவாக இருந்தாலும், நிலையான தொகுப்பு புலங்களைக் கொண்ட அந்தச் செயலைச் சுற்றியுள்ள ஒரு உறை. அந்தப் புலங்கள், அவற்றுக்குப் பின்னால் இருந்த முடிவு எவ்வளவு திறன்மிக்கதாக இருந்தாலும், சரிபார்க்க எப்போதும் மலிவாகவே இருக்கும் விஷயங்கள்:

• யார் செயல்பட்டார்கள், ஒரு உண்மையான பதிவுசெய்யப்பட்ட அடையாளத்திற்கு தீர்க்கப்படும் விசையாக
• எந்த அதிகாரத்தின் கீழ், அந்த அதிகாரம் உண்மையில் வழங்கப்பட்டதா என்பதும்
• யாருடைய ஒப்புதலுடன், திரும்பப் பெறக்கூடிய கையொப்பமிடப்பட்ட வழங்கலாக
• எந்த சரிபார்ப்புகள் இயக்கப்பட்டன, ஒவ்வொன்றும் என்ன திருப்பியது
• பதிவு என்ன சொல்கிறது, மௌனமாக மீண்டும் எழுதப்பட முடியாத ஒரு சங்கிலியில்
• அதை யார் நிறுத்த முடியும் என்பதையும், நிறுத்தும் முடிவை முகவர் மாற்ற முடியாது என்பதையும்

ஒரு கையொப்பத்தைச் சரிபார்ப்பது, யார் கையொப்பமிட்டார்கள் என்று எண்ணுவது, ஒப்புதல் இணைப்பைப் பின்தொடர்வது அல்லது ஹாஷை ஒப்பிடுவது - இவை அனைத்தும், முடிவு ஒரு சிறிய மாடலால் எடுக்கப்பட்டதா அல்லது நம்மை மிகவும் தாண்டிய ஒன்றால் எடுக்கப்பட்டதா என்பதைப் பொருட்படுத்தாமல் ஒரே அளவு செலவை ஏற்படுத்தும். அதுவே சுமையை அங்கே வைப்பதற்கான முழுக் காரணம். உள்ளடக்கம் பற்றிய தீர்ப்பு திறனுடன் அளவிடப்படுவதில்லை. கட்டமைப்பு அளவிடப்படுகிறது.

ஒப்புதலையும் அதிகாரத்தையும் இயந்திரத்தால் சரிபார்க்கக்கூடியதாக ஆக்குவது என்ன

ஒப்புதலும் அதிகாரமும் வெறும் உரையாக இருந்தால் இதில் எதுவும் வேலை செய்யாது. தனியுரிமைக் கொள்கையில் உள்ள ஒரு வாக்குறுதியை இயந்திரத்தால் சரிபார்க்க முடியாது, ஒருவருக்கு அதிகாரம் வழங்கப்பட்டது என்ற கூற்றையும் சரிபார்க்க முடியாது.

எனவே CIRIS அவற்றை செய்தியிலேயே, ஒவ்வொரு கூற்றுடனும் பயணிக்கும் பெயரிடப்பட்ட புலங்களாக வைக்கிறது. ஒப்புதல் ஒரு திசையை சுட்டிக்காட்டி, திரும்பப் பெறக்கூடிய கையொப்பமிடப்பட்ட பொருளாக மாறுகிறது. அதிகாரம் உங்கள் சொந்த நோட் ஏற்றுக்கொண்ட ஒரு மூலத்திற்கு திரும்பச் செல்ல வேண்டிய ஒன்றாக மாறுகிறது. ஒவ்வொரு கூற்றும் அதை யார் சொன்னார்கள், அது எதைப் பற்றியது, அது எதன் அடிப்படையில் நிற்கிறது என்பதை சுமக்க வேண்டும். அப்படி எழுதப்பட்ட விதியை மென்பொருளால் அமல்படுத்த முடியும், ஒரு அறிமுகமில்லாதவரால் சரிபார்க்க முடியும்.

அதுவே எங்கள் இணக்கப் பக்கங்களை நீங்கள் வாதிடக்கூடிய ஒன்றாக மாற்றுகிறது. ஒவ்வொரு கடமைக்கும், வேலையைச் செய்யும் அமைப்பின் பகுதியையும் அதை நிரூபிக்கும் கட்டுப்பாட்டையும் நாங்கள் பெயரிடுகிறோம், மேலும் அது கடமையில் எவ்வளவு பகுதியை உள்ளடக்குகிறது என்பதை - அது ஒரு பகுதியை மட்டும் உள்ளடக்கும் இடங்களைச் சேர்த்து - நாங்கள் நேர்மையாகச் சொல்கிறோம். இந்த வரைபடங்களைப் படிப்பதற்குக் காரணம், அடிப்படையிலுள்ள உண்மைகள் வெறும் கூறப்படுவதற்குப் பதிலாக சரிபார்க்கக்கூடியவை என்பதே.

இந்த மதிப்புகள் உண்மையில் கட்டுப்படுத்தும் இடங்கள்

இதில் எங்கு அழுத்தம் கொடுக்கலாம்

மிகவும் பலவீனமான இணைப்பு அமைப்புக்கும் உள்ளடக்கத்திற்கும் இடையே உள்ளது. மேலே உள்ள அனைத்தும் பதிவு இல்லாமல் செயல்படுவதை கடினமாக்குகிறது, உங்களுக்கு வழங்கப்படாத அதிகாரத்தை உரிமை கொண்டாடுவதை கடினமாக்குகிறது, மற்றும் நிறுத்து என்று சொல்லும் மனிதனின் திறனை அகற்றுவதை கடினமாக்குகிறது. இவற்றில் எதுவும் அமைப்பை ஞானமுள்ளதாக ஆக்குவதில்லை.

திறன்மிக்க AI-ஐ ஆளுவதற்கு வேறு ஒரு வழி இருக்கிறது என்று நீங்கள் நினைத்தால், அது பொறுப்புணர்வை கட்டமைப்பில் வைக்காத ஒரு வழியாக இருந்தால், அந்த வாதத்தை நாங்கள் கேட்க விரும்புகிறோம். ஒரு முடிவைச் சுற்றியுள்ள கையொப்பமிடப்பட்ட உறை ஒவ்வொரு புலத்திலும் சரியாக இருந்தும், கையொப்பமிடப்பட்ட தடயம் அது கண்டறிய வேண்டியதைத் தவறவிட்டதை நீங்கள் எங்களுக்குக் காட்ட முடிந்தால், அதை நாங்கள் இன்னும் அதிகமாக விரும்புகிறோம். குறியீடு பொதுவில் உள்ளது, அரசியலமைப்பும் அப்படியே.