Superalignment
AI ਕਿਸੇ ਜ਼ਿੰਮੇਵਾਰ ਤੋਂ ਵੀ ਤੇਜ਼ ਅੱਗੇ ਵੱਧ ਰਿਹਾ ਹੈ।
- 01
ਡਰ
ਅਸੀਂ ਅਜਿਹੇ ਦਿਮਾਗ਼ ਬਣਾ ਰਹੇ ਹਾਂ ਜਿਨ੍ਹਾਂ ਦੀ ਅਸੀਂ ਜਾਂਚ ਨਹੀਂ ਕਰ ਸਕਦੇ। ਇਨ੍ਹਾਂ ਤੇ ਉਹ ਨਿਯਮ ਲਾਗੂ ਹੁੰਦੇ ਹਨ ਜੋ ਇੱਕ ਕੰਪਨੀ ਦੁਬਾਰਾ ਲਿਖ ਸਕਦੀ ਹੈ, ਅਜਿਹੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਜੋ ਉਸ ਕੰਪਨੀ ਤੋਂ ਬਾਹਰ ਕੋਈ ਨਹੀਂ ਦੇਖ ਸਕਦਾ। ਸਾਨੂੰ ਲੈਬ ਤੇ ਭਰੋਸਾ ਕਰਨ ਲਈ ਕਿਹਾ ਜਾਂਦਾ ਹੈ।
- 02
ਇਹ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ
CIRIS AI ਨੂੰ ਅਜਿਹੇ ਨੈੱਟਵਰਕ ਵਿੱਚ ਰੱਖਦਾ ਹੈ ਜਿੱਥੇ ਇਸ ਦਾ ਹਰ ਕਦਮ ਇੱਕ ਦਸਤਖ਼ਤ ਕੀਤਾ ਰਿਕਾਰਡ ਹੈ। ਇੱਕ ਇਨਸਾਨ, ਇੱਕ AI, ਅਤੇ ਇੱਕ ਸੰਸਥਾ ਸਾਰੇ ਇੱਕੋ ਤਰ੍ਹਾਂ ਦੀ ਪਛਾਣ ਰੱਖਦੇ ਹਨ, ਅਤੇ ਸਾਰਿਆਂ ਤੋਂ ਇੱਕੋ ਤਰ੍ਹਾਂ ਜਵਾਬ ਮੰਗਿਆ ਜਾਂਦਾ ਹੈ।
- 03
ਕੀ ਬਦਲਦਾ ਹੈ
AI ਨੂੰ ਇਮਾਨਦਾਰ ਰੱਖਣਾ ਕਿਸੇ ਇੱਕ ਕੰਪਨੀ ਦੀ ਉਮੀਦ ਨਹੀਂ ਰਹਿੰਦਾ। ਇਹ ਕੁਝ ਅਜਿਹਾ ਬਣ ਜਾਂਦਾ ਹੈ ਜੋ ਨੈੱਟਵਰਕ ਲਾਗੂ ਕਰਦਾ ਹੈ। ਤੁਸੀਂ ਪ੍ਰੈੱਸ ਰਿਲੀਜ਼ ਤੇ ਭਰੋਸਾ ਨਹੀਂ ਕਰਦੇ। ਤੁਸੀਂ ਦਸਤਖ਼ਤ ਪੜ੍ਹਦੇ ਹੋ।
- 04
ਅਤੇ ਫਿਰ
ਜੋ ਨੈੱਟਵਰਕ ਇੱਕ ਸੁਪਰਹਿਊਮਨ AI ਨੂੰ ਜਵਾਬਦੇਹ ਰੱਖ ਸਕਦਾ ਹੈ, ਉਹ ਆਪਣੇ ਆਪ ਹੀ ਇੱਕ ਅਜਿਹਾ ਇੰਟਰਨੈੱਟ ਹੈ ਜਿਸ ਦਾ ਕੋਈ ਕੇਂਦਰ ਨਹੀਂ। ਉਹੀ ਦਸਤਖ਼ਤ ਕੀਤੇ ਰਿਕਾਰਡ ਕਿਸੇ ਨੂੰ ਵੀ ਸੱਚ ਜਾਂਚਣ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਇਹ ਉਸੇ ਨਿੱਜੀ ਆਧਾਰ ਤੇ ਚੱਲਦੇ ਹਨ ਜਿਸ ਤੇ ਤੁਹਾਡੇ ਫ਼ੋਨ ਦਾ AI ਚੱਲਦਾ ਹੈ।
ਚਾਰ ਡਰ, ਇੱਕ ਬੁਨਿਆਦ। ਉਸ ਕੇਂਦਰ ਨੂੰ ਹਟਾਓ ਜਿਸ ਉੱਤੇ ਭਰੋਸਾ ਕਰਨਾ ਮਜਬੂਰੀ ਹੈ, ਅਤੇ ਚਾਰੇ ਚੀਜ਼ਾਂ ਇੱਕੋ ਵਾਰ ਬਦਲ ਜਾਂਦੀਆਂ ਹਨ।
ਉਹੀ ਬੁਨਿਆਦ, ਦੂਜੇ ਦਰਵਾਜ਼ਿਆਂ ਤੋਂ