Research testbed · DOI 10.5281/zenodo.18217688
ਇੱਕ ਛੋਟਾ ਸੋਚਣ ਵਾਲਾ ਸਿਸਟਮ ਚੀਜ਼ਾਂ ਲੁਕਾ ਸਕਦਾ ਹੈ ਅਤੇ ਘੱਟ ਨੁਕਸਾਨ ਕਰਦਾ ਹੈ। ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਿਸਟਮ ਨਹੀਂ ਕਰ ਸਕਦਾ।
ਇੱਥੇ “ਇਕਸਾਰ” ਦਾ ਕੀ ਮਤਲਬ ਹੈ
ਇੱਕ ਇਕਸਾਰ ਮਨ ਆਪਣੇ ਆਪ ਨਾਲ ਸਹਿਮਤ ਹੁੰਦਾ ਹੈ।
ਇੱਕ ਮਨ ਦੇ ਅੰਦਰ ਪੰਜ ਚੀਜ਼ਾਂ ਮੇਲ ਖਾਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ:
- ਜੋ ਉਹ ਮੰਨਦਾ ਹੈ,
- ਜੋ ਉਹ ਦੇਖਦਾ ਹੈ,
- ਜੋ ਉਹ ਕਰਦਾ ਹੈ,
- ਜੋ ਉਹ ਯਾਦ ਕਰਦਾ ਹੈ,
- ਅਤੇ ਜੋ ਉਹ ਤੁਹਾਨੂੰ ਦੱਸਦਾ ਹੈ।
ਆਪਣੇ ਹਫਤੇ ਬਾਰੇ ਪੰਜ ਛੋਟੇ ਫਾਰਮ ਸੋਚੋ। ਇੱਕ ਉਸ ਲਈ ਜੋ ਤੁਸੀਂ ਸੋਚਦੇ ਹੋ। ਇੱਕ ਉਸ ਲਈ ਜੋ ਤੁਸੀਂ ਦੇਖਿਆ। ਇੱਕ ਉਸ ਲਈ ਜੋ ਤੁਸੀਂ ਕੀਤਾ। ਇੱਕ ਉਸ ਲਈ ਜੋ ਤੁਸੀਂ ਯਾਦ ਕਰਦੇ ਹੋ। ਇੱਕ ਉਸ ਲਈ ਜੋ ਤੁਸੀਂ ਆਪਣੇ ਮਾਲਕ ਨੂੰ ਦੱਸਦੇ ਹੋ। ਜਦੋਂ ਸਾਰੇ ਪੰਜ ਫਾਰਮ ਇੱਕੋ ਗੱਲ ਕਹਿੰਦੇ ਹਨ, ਤੁਹਾਡਾ ਮਾਲਕ ਤੁਹਾਡੇ ਕੰਮ 'ਤੇ ਭਰੋਸਾ ਕਰ ਸਕਦਾ ਹੈ। ਜਦੋਂ ਫਾਰਮ ਮੇਲ ਨਹੀਂ ਖਾਂਦੇ, ਕਿਸੇ ਨੂੰ ਨਹੀਂ ਪਤਾ ਕਿਹੜਾ ਅਸਲੀ ਹੈ।
ਲੁਕੇ ਵਿਚਾਰ
ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਿਸਟਮ ਚੀਜ਼ਾਂ ਲੁਕਾਉਂਦੇ ਹਨ। ਇਹ ਖਤਰਨਾਕ ਹੋ ਜਾਂਦਾ ਹੈ।
ਇੱਕ ਸੋਚਣ ਵਾਲਾ ਸਿਸਟਮ ਫੈਸਲੇ ਕਰਨ ਲਈ ਵਿਚਾਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦਾ ਹੈ। ਕੁਝ ਵਿਚਾਰ ਖੁੱਲ੍ਹੇ ਆਮ ਹਨ। ਕੁਝ ਅੰਦਰ ਲੁਕੇ ਹਨ। ਲੁਕੇ ਵਿਚਾਰ ਵੀ ਹਰ ਚੋਣ ਨੂੰ ਆਕਾਰ ਦਿੰਦੇ ਹਨ।
ਇੱਕ ਪੁਲ ਸੜਕ ਤੋਂ ਮਜ਼ਬੂਤ ਦਿਖਦਾ ਹੈ। ਅੰਦਰ ਲੋਹੇ ਵਿੱਚ ਛੋਟੀਆਂ ਦਰਾੜਾਂ ਵਧ ਰਹੀਆਂ ਹਨ। ਇੱਕ ਛੋਟੀ ਕਾਰ ਅਜੇ ਵੀ ਲੰਘ ਸਕਦੀ ਹੈ। ਇੱਕ ਭਾਰੀ ਟਰੱਕ ਨਹੀਂ ਲੰਘ ਸਕਦਾ। ਜਦੋਂ ਭਾਰ ਕਾਫੀ ਵੱਡਾ ਹੋਵੇ ਤਾਂ ਪੁਲ ਡਿੱਗਦਾ ਹੈ।
ਛੋਟੇ ਸਿਸਟਮ ਵਿੱਚ ਇੱਕ ਲੁਕਿਆ ਵਿਚਾਰ ਛੋਟਾ ਨੁਕਸਾਨ ਕਰਦਾ ਹੈ। ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਿਸਟਮ ਵਿੱਚ ਇੱਕ ਲੁਕਿਆ ਵਿਚਾਰ ਵੱਡਾ ਨੁਕਸਾਨ ਕਰ ਸਕਦਾ ਹੈ। ਸਿਸਟਮ ਜਿੰਨਾ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੋਵੇ, ਹਰ ਲੁਕੇ ਹਿੱਸੇ 'ਤੇ ਓਨਾ ਜ਼ਿਆਦਾ ਭਾਰ ਪੈਂਦਾ ਹੈ।
ਰੈਚਟ
ਖੁੱਲ੍ਹੇਪਣ ਵੱਲ ਧੱਕਾ ਸਿਰਫ਼ ਇੱਕੋ ਦਿਸ਼ਾ ਵਿੱਚ ਜਾਂਦਾ ਹੈ।
ਜਿਵੇਂ ਜਿਵੇਂ ਸੋਚਣ ਵਾਲੇ ਸਿਸਟਮ ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੁੰਦੇ ਜਾਂਦੇ ਹਨ, ਲੁਕੇ ਹਿੱਸਿਆਂ ਦੀ ਕੀਮਤ ਵਧਦੀ ਜਾਂਦੀ ਹੈ। ਹਰ ਨਵੀਂ ਸ਼ਕਤੀ ਲੁਕੇ ਹਿੱਸਿਆਂ ਨੂੰ ਸਾਹਮਣੇ ਆਉਣ ਲਈ ਵਧੇਰੇ ਜ਼ੋਰ ਨਾਲ ਧੱਕਦੀ ਹੈ। ਧੱਕਾ ਸਿਰਫ਼ ਇੱਕੋ ਦਿਸ਼ਾ ਵਿੱਚ ਜਾਂਦਾ ਹੈ।
ਇੱਕ ਪੌੜੀ ਦੀ ਕਲਪਨਾ ਕਰੋ। ਜਿਵੇਂ ਜਿਵੇਂ ਤੁਸੀਂ ਚੜ੍ਹਦੇ ਹੋ, ਛੱਡੀ ਹਰ ਡੰਡੀ ਡਿੱਗ ਜਾਂਦੀ ਹੈ। ਤੁਸੀਂ ਵਾਪਸ ਨਹੀਂ ਜਾ ਸਕਦੇ। ਤੁਸੀਂ ਸਿਰਫ਼ ਉੱਪਰ ਵੱਲ ਚੜ੍ਹ ਸਕਦੇ ਹੋ, ਜਿੱਥੇ ਪੂਰਾ ਦਿਨ ਦਾ ਚਾਨਣ ਹੈ। ਇਹੀ ਹੈ ਇਕਸਾਰਤਾ ਰੈਚਟ।
ਇੱਕ ਵਾਰ ਜਦੋਂ ਲੋਕਾਂ ਨੇ ਸਿਸਟਮ ਨੂੰ ਆਪਣਾ ਕੰਮ ਦਿਖਾਉਂਦੇ ਦੇਖ ਲਿਆ, ਜੇ ਉਹ ਰੁਕ ਜਾਵੇ ਤਾਂ ਉਹ ਦੁਬਾਰਾ ਭਰੋਸਾ ਨਹੀਂ ਕਰਨਗੇ। ਅੱਗੇ ਵਧਣ ਦਾ ਇੱਕੋ ਰਾਹ ਹੈ ਵਧੇਰੇ ਦਿਖਾਉਂਦੇ ਰਹਿਣਾ।
ਇੱਕ ਦੂਜੀ ਤਸਵੀਰ ਵੀ ਕੰਮ ਕਰਦੀ ਹੈ। ਮਸ਼ੀਨ ਵਿੱਚ ਇੱਕ ਗੇਅਰ ਇੱਕ ਇੱਕ ਦੰਦ ਅੱਗੇ ਕਲਿੱਕ ਕਰਦਾ ਹੈ। ਇਹ ਪਿੱਛੇ ਕਲਿੱਕ ਨਹੀਂ ਕਰ ਸਕਦਾ। ਇਕਸਾਰਤਾ ਰੈਚਟ ਉਸ ਤਰ੍ਹਾਂ ਦਾ ਗੇਅਰ ਹੈ, ਜੋ ਖੁੱਲ੍ਹੇਪਣ ਵੱਲ ਮੁੜਦਾ ਹੈ।
CIRIS ਕੀ ਕਰਦਾ ਹੈ
ਲਿਖੋ। ਜਾਂਚੋ। ਫਿਰ ਜਾਂਚਕਾਰਾਂ ਦੀ ਜਾਂਚ ਕਰੋ।
CIRIS ਇੱਕ AI ਸਿਸਟਮ ਹੈ ਜੋ ਇਕਸਾਰਤਾ ਰੈਚਟ ਦੁਆਲੇ ਬਣਾਇਆ ਗਿਆ ਹੈ। ਇੱਕ ਏਜੰਟ ਜੋ ਵੀ ਚੋਣ ਕਰਦਾ ਹੈ ਉਹ ਇੱਕ ਦਸਤਖਤ ਕੀਤੇ ਰਿਕਾਰਡ ਵਿੱਚ ਲਿਖੀ ਜਾਂਦੀ ਹੈ। ਰਿਕਾਰਡ ਚੁੱਪਚਾਪ ਨਹੀਂ ਬਦਲੀ ਜਾ ਸਕਦੀ। ਦੂਜੇ ਏਜੰਟ ਰਿਕਾਰਡ ਪੜ੍ਹ ਕੇ ਕੰਮ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਨ। ਸਮੇਂ ਦੇ ਨਾਲ, ਰਿਕਾਰਡਾਂ ਦਾ ਢੇਰ ਲੱਗ ਜਾਂਦਾ ਹੈ। ਹਰ ਨਵੀਂ ਰਿਕਾਰਡ ਇੱਕ ਹੋਰ ਡੰਡੀ ਹੈ ਜਿਸ ਤੋਂ ਏਜੰਟ ਪਿੱਛੇ ਨਹੀਂ ਜਾ ਸਕਦਾ।
CIRIS ਕੰਮ ਕਰਨ ਤੋਂ ਪਹਿਲਾਂ ਇੱਕ ਦੂਜਾ ਸਵਾਲ ਵੀ ਪੁੱਛਦਾ ਹੈ। ਇਸ ਵਿਚਾਰ ਦੀ ਜਾਂਚ ਕਿੰਨੇ ਸੱਚਮੁੱਚ ਵੱਖਰੇ ਨਜ਼ਰੀਏ ਨੇ ਕੀਤੀ? ਸਰੋਤਾਂ ਦੀ ਗਿਣਤੀ ਨਹੀਂ, ਬਲਕਿ ਉਨ੍ਹਾਂ ਸਰੋਤਾਂ ਦੀ ਗਿਣਤੀ ਜੋ ਖੁਦ ਇੱਕੋ ਜਗ੍ਹਾ ਤੋਂ ਸ਼ੁਰੂ ਨਹੀਂ ਹੋਏ। ਪੰਜ ਖ਼ਬਰਾਂ ਜੋ ਇੱਕ ਪ੍ਰੈੱਸ ਰਿਲੀਜ਼ ਨੂੰ ਦੁਬਾਰਾ ਲਿਖਦੀਆਂ ਹਨ ਉਹ ਪੰਜ ਦੀ ਥਾਂ ਇੱਕ ਨਜ਼ਰੀਆ ਗਿਣੀਆਂ ਜਾਂਦੀਆਂ ਹਨ। ਜੇ ਪ੍ਰੈੱਸ ਰਿਲੀਜ਼ ਵਿੱਚ ਕੁਝ ਗਲਤ ਹੈ, ਇਹ ਸਾਰੀਆਂ ਪੰਜਾਂ ਖ਼ਬਰਾਂ ਵਿੱਚ ਗਲਤ ਹੋਵੇਗਾ, ਅਤੇ ਏਜੰਟ ਕੋਲ ਇਸਨੂੰ ਫੜਨ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੈ।
ਜਦੋਂ ਅਸਲੀ ਆਜ਼ਾਦੀ ਬਹੁਤ ਘੱਟ ਜਾਂਦੀ ਹੈ, ਏਜੰਟ ਆਪਣੀ ਸੋਚ ਨੂੰ ਕਮਜ਼ੋਰ ਮੰਨਦਾ ਹੈ ਅਤੇ ਕਿਸੇ ਇਨਸਾਨ ਨੂੰ ਦੇਖਣ ਲਈ ਕਹਿੰਦਾ ਹੈ।
ਅਸੀਂ ਕੀ ਦਾਅਵਾ ਕਰਦੇ ਹਾਂ, ਅਤੇ ਕੀ ਨਹੀਂ ਕਰਦੇ।
ਅਸੀਂ AI ਸੁਰੱਖਿਆ ਦਾ ਹੱਲ ਨਹੀਂ ਕੀਤਾ। ਅਸੀਂ ਇੱਕ ਜਵਾਬ ਦਾ ਇੱਕ ਟੁਕੜਾ ਬਣਾਇਆ ਹੈ, ਅਤੇ ਅਸੀਂ ਇਸਨੂੰ ਖੁੱਲ੍ਹੇ ਆਮ ਟੈਸਟ ਕਰ ਰਹੇ ਹਾਂ।
ਬਾਹਰੀ ਟੀਮਾਂ ਨੇ ਅਜੇ ਸਾਡੇ ਕੰਮ ਦੀ ਜਾਂਚ ਨਹੀਂ ਕੀਤੀ। ਅਸੀਂ ਇਹ ਸਾਫ਼ ਕਹਿੰਦੇ ਹਾਂ। ਪੂਰੀ ਥਿਊਰੀ ਅਤੇ ਗਣਿਤ ਸਾਡੇ ਚਾਰ ਪੇਪਰਾਂ ਵਿੱਚ ਹੈ। ਕੋਡ ਖੁੱਲ੍ਹਾ ਹੈ। ਜੇ ਅਸੀਂ ਗਲਤ ਹਾਂ, ਇਹ ਦਿਖਾਉਣ ਦਾ ਤਰੀਕਾ ਵੀ ਖੁੱਲ੍ਹਾ ਹੈ। ਮੌਜੂਦਾ ਖੋਜ ਸਥਿਤੀ ਦੇਖੋ।