AI ਅਲਾਈਨਮੈਂਟ: ਨਕਲੀ ਬੁੱਧੀ ਦੇ ਟੀਚਿਆਂ ਦਾ ਮੇਲ ਮਨੁੱਖੀ ਕਦਰਾਂ-ਕੀਮਤਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ

• ਲੇਖਕ ਬਾਰੇ:
• ਲੇਖਕ ਦਾ ਨਾਮ

  Quantumrun ਦੂਰਦ੍ਰਿਸ਼ਟੀ
• ਜਨਵਰੀ 25, 2023

ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ (AI) ਅਲਾਈਨਮੈਂਟ ਉਦੋਂ ਹੁੰਦੀ ਹੈ ਜਦੋਂ AI ਸਿਸਟਮ ਦੇ ਟੀਚੇ ਮਨੁੱਖੀ ਕਦਰਾਂ-ਕੀਮਤਾਂ ਨਾਲ ਮੇਲ ਖਾਂਦੇ ਹਨ। ਓਪਨਏਆਈ, ਡੀਪਮਾਈਂਡ ਅਤੇ ਐਂਥਰੋਪਿਕ ਵਰਗੀਆਂ ਕੰਪਨੀਆਂ ਕੋਲ ਖੋਜਕਰਤਾਵਾਂ ਦੀਆਂ ਟੀਮਾਂ ਹਨ ਜਿਨ੍ਹਾਂ ਦਾ ਇੱਕੋ-ਇੱਕ ਫੋਕਸ ਵੱਖ-ਵੱਖ ਸਥਿਤੀਆਂ ਲਈ ਗਾਰਡਰੇਲ ਦਾ ਅਧਿਐਨ ਕਰਨਾ ਹੈ ਜਿਸ ਵਿੱਚ ਅਜਿਹਾ ਹੋ ਸਕਦਾ ਹੈ।

AI ਅਲਾਈਨਮੈਂਟ ਸੰਦਰਭ

2021 ਯੂਨੀਵਰਸਿਟੀ ਆਫ਼ ਕਾਰਨੇਲ ਖੋਜ ਅਧਿਐਨ ਦੇ ਅਨੁਸਾਰ, ਕਈ ਅਧਿਐਨਾਂ ਨੇ ਦਿਖਾਇਆ ਹੈ ਕਿ ਐਲਗੋਰਿਦਮ ਦੁਆਰਾ ਬਣਾਏ ਗਏ ਟੂਲ ਜਾਂ ਮਾਡਲ ਉਹਨਾਂ ਡੇਟਾ ਤੋਂ ਪ੍ਰਾਪਤ ਪੱਖਪਾਤ ਨੂੰ ਪ੍ਰਦਰਸ਼ਿਤ ਕਰਦੇ ਹਨ ਜਿਸ 'ਤੇ ਉਹਨਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਸੀ। ਉਦਾਹਰਨ ਲਈ, ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਪ੍ਰੋਸੈਸਿੰਗ (NLP) ਵਿੱਚ, ਸੀਮਤ ਡਾਟਾ ਸੈੱਟਾਂ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਚੁਣੇ ਗਏ NLP ਮਾਡਲਾਂ ਨੂੰ ਔਰਤਾਂ ਦੇ ਵਿਰੁੱਧ ਹਾਨੀਕਾਰਕ ਲਿੰਗਕ ਧਾਰਨਾਵਾਂ ਦੇ ਆਧਾਰ 'ਤੇ ਭਵਿੱਖਬਾਣੀਆਂ ਕਰਦੇ ਹੋਏ ਦਸਤਾਵੇਜ਼ੀ ਰੂਪ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਇਸੇ ਤਰ੍ਹਾਂ, ਹੋਰ ਅਧਿਐਨਾਂ ਨੇ ਪਾਇਆ ਕਿ ਛੇੜਛਾੜ ਕੀਤੇ ਡੇਟਾ ਸੈੱਟਾਂ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਐਲਗੋਰਿਦਮ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਨਸਲੀ ਪੱਖਪਾਤੀ ਸਿਫ਼ਾਰਸ਼ਾਂ ਹੁੰਦੀਆਂ ਹਨ, ਖਾਸ ਕਰਕੇ ਪੁਲਿਸਿੰਗ ਵਿੱਚ।

ਅਜਿਹੀਆਂ ਬਹੁਤ ਸਾਰੀਆਂ ਉਦਾਹਰਣਾਂ ਹਨ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਪ੍ਰਣਾਲੀਆਂ ਨੇ ਘੱਟ ਗਿਣਤੀਆਂ ਜਾਂ ਬਹੁਤ ਸਾਰੇ ਨੁਕਸਾਨਾਂ ਤੋਂ ਪੀੜਤ ਸਮੂਹਾਂ ਲਈ ਬੁਰਾ ਕੰਮ ਕੀਤਾ ਹੈ। ਖਾਸ ਤੌਰ 'ਤੇ, ਸਵੈਚਲਿਤ ਚਿਹਰੇ ਦੇ ਵਿਸ਼ਲੇਸ਼ਣ ਅਤੇ ਸਿਹਤ ਸੰਭਾਲ ਨਿਦਾਨ ਖਾਸ ਤੌਰ 'ਤੇ ਔਰਤਾਂ ਅਤੇ ਰੰਗ ਦੇ ਲੋਕਾਂ ਲਈ ਬਹੁਤ ਵਧੀਆ ਕੰਮ ਨਹੀਂ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਨਾਜ਼ੁਕ ਪ੍ਰਣਾਲੀਆਂ ਜੋ ਭਾਵਨਾਵਾਂ ਦੀ ਬਜਾਏ ਤੱਥਾਂ ਅਤੇ ਤਰਕ 'ਤੇ ਅਧਾਰਤ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ, ਨੂੰ ਸਿਹਤ ਸੰਭਾਲ ਜਾਂ ਸਿੱਖਿਆ ਨਿਰਧਾਰਤ ਕਰਨ ਵਰਗੇ ਸੰਦਰਭਾਂ ਵਿੱਚ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਉਹ ਇਹਨਾਂ ਸਿਫ਼ਾਰਸ਼ਾਂ ਦੇ ਪਿੱਛੇ ਤਰਕ ਦੀ ਪਛਾਣ ਕਰਨਾ ਔਖਾ ਬਣਾ ਕੇ ਹੋਰ ਨੁਕਸਾਨ ਕਰ ਸਕਦੇ ਹਨ।

ਨਤੀਜੇ ਵਜੋਂ, ਤਕਨੀਕੀ ਫਰਮਾਂ ਐਲਗੋਰਿਦਮ ਨੂੰ ਨਿਰਪੱਖ ਅਤੇ ਮਨੁੱਖੀ ਰੱਖਣ 'ਤੇ ਧਿਆਨ ਦੇਣ ਲਈ ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਟੀਮਾਂ ਬਣਾ ਰਹੀਆਂ ਹਨ। ਉੱਨਤ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਦਿਸ਼ਾ ਨੂੰ ਸਮਝਣ ਲਈ ਖੋਜ ਜ਼ਰੂਰੀ ਹੈ, ਅਤੇ ਨਾਲ ਹੀ ਚੁਣੌਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ ਜਿਵੇਂ ਕਿ AI ਸਮਰੱਥਾਵਾਂ ਵਧਦੀਆਂ ਹਨ।

ਵਿਘਨਕਾਰੀ ਪ੍ਰਭਾਵ

ਓਪਨਏਆਈ (2021) ਦੇ ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਦੇ ਮੁਖੀ, ਜੈਨ ਲੀਕੇ ਦੇ ਅਨੁਸਾਰ, ਇਹ ਵੇਖਦਿਆਂ ਕਿ ਏਆਈ ਸਿਸਟਮ ਸਿਰਫ 2010 ਦੇ ਦਹਾਕੇ ਵਿੱਚ ਸਮਰੱਥ ਹੋ ਗਏ ਹਨ, ਇਹ ਸਮਝਣ ਯੋਗ ਹੈ ਕਿ ਜ਼ਿਆਦਾਤਰ ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਖੋਜ ਸਿਧਾਂਤ-ਭਾਰੀ ਰਹੀ ਹੈ। ਜਦੋਂ ਬਹੁਤ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਇਕਸਾਰ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਮਨੁੱਖਾਂ ਨੂੰ ਦਰਪੇਸ਼ ਚੁਣੌਤੀਆਂ ਵਿੱਚੋਂ ਇੱਕ ਇਹ ਹੈ ਕਿ ਇਹ ਮਸ਼ੀਨਾਂ ਅਜਿਹੇ ਹੱਲ ਤਿਆਰ ਕਰ ਸਕਦੀਆਂ ਹਨ ਜੋ ਸਮੀਖਿਆ ਕਰਨ ਅਤੇ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਬਹੁਤ ਗੁੰਝਲਦਾਰ ਹਨ ਕਿ ਕੀ ਉਹ ਨੈਤਿਕ ਤੌਰ 'ਤੇ ਅਰਥ ਰੱਖਦੇ ਹਨ।

ਲੀਕੇ ਨੇ ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਇੱਕ ਰਿਕਰਸਿਵ ਰਿਵਾਰਡ ਮਾਡਲਿੰਗ (RRM) ਰਣਨੀਤੀ ਤਿਆਰ ਕੀਤੀ। RRM ਦੇ ਨਾਲ, ਕਈ "ਮਦਦਗਾਰ" AIs ਨੂੰ ਇੱਕ ਮਨੁੱਖ ਦੀ ਇਹ ਮੁਲਾਂਕਣ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਸਿਖਾਇਆ ਜਾਂਦਾ ਹੈ ਕਿ ਇੱਕ ਵਧੇਰੇ ਗੁੰਝਲਦਾਰ AI ਕਿੰਨਾ ਵਧੀਆ ਪ੍ਰਦਰਸ਼ਨ ਕਰਦਾ ਹੈ। ਉਹ ਕੁਝ ਅਜਿਹਾ ਬਣਾਉਣ ਦੀ ਸੰਭਾਵਨਾ ਬਾਰੇ ਆਸ਼ਾਵਾਦੀ ਹੈ ਜਿਸਦਾ ਉਹ "ਅਲਾਈਨਮੈਂਟ MVP" ਵਜੋਂ ਹਵਾਲਾ ਦਿੰਦਾ ਹੈ। ਸ਼ੁਰੂਆਤੀ ਸ਼ਬਦਾਂ ਵਿੱਚ, ਇੱਕ MVP (ਜਾਂ ਘੱਟੋ-ਘੱਟ ਵਿਹਾਰਕ ਉਤਪਾਦ) ਇੱਕ ਸਰਲ ਸੰਭਵ ਉਤਪਾਦ ਹੈ ਜੋ ਇੱਕ ਕੰਪਨੀ ਇੱਕ ਵਿਚਾਰ ਨੂੰ ਪਰਖਣ ਲਈ ਬਣਾ ਸਕਦੀ ਹੈ। ਉਮੀਦ ਹੈ ਕਿ ਕਿਸੇ ਦਿਨ, AI, AI ਦੀ ਖੋਜ ਵਿੱਚ ਮਨੁੱਖੀ ਪ੍ਰਦਰਸ਼ਨ ਨਾਲ ਮੇਲ ਖਾਂਦਾ ਹੈ ਅਤੇ ਕਾਰਜਸ਼ੀਲ ਹੋਣ ਦੇ ਨਾਲ-ਨਾਲ ਮੁੱਲਾਂ ਦੇ ਨਾਲ ਇਸ ਦੀ ਇਕਸਾਰਤਾ ਵੀ ਕਰਦਾ ਹੈ।

ਹਾਲਾਂਕਿ AI ਅਲਾਈਨਮੈਂਟ ਵਿੱਚ ਵਧਦੀ ਦਿਲਚਸਪੀ ਇੱਕ ਸ਼ੁੱਧ ਸਕਾਰਾਤਮਕ ਹੈ, ਖੇਤਰ ਵਿੱਚ ਬਹੁਤ ਸਾਰੇ ਵਿਸ਼ਲੇਸ਼ਕ ਸੋਚਦੇ ਹਨ ਕਿ ਪ੍ਰਮੁੱਖ AI ਲੈਬਾਂ ਵਿੱਚ "ਨੈਤਿਕਤਾ" ਦਾ ਬਹੁਤ ਸਾਰਾ ਕੰਮ ਤਕਨੀਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਵਧੀਆ ਦਿਖਣ ਅਤੇ ਨਕਾਰਾਤਮਕ ਪ੍ਰਚਾਰ ਤੋਂ ਬਚਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਜਨਤਕ ਸੰਬੰਧ ਹੈ। ਇਹ ਵਿਅਕਤੀ ਕਿਸੇ ਵੀ ਸਮੇਂ ਜਲਦੀ ਹੀ ਇਹਨਾਂ ਕੰਪਨੀਆਂ ਲਈ ਨੈਤਿਕ ਵਿਕਾਸ ਅਭਿਆਸਾਂ ਦੀ ਤਰਜੀਹ ਬਣਨ ਦੀ ਉਮੀਦ ਨਹੀਂ ਕਰਦੇ ਹਨ।

ਇਹ ਨਿਰੀਖਣ ਮੁੱਲ ਅਨੁਕੂਲਤਾ ਯਤਨਾਂ ਲਈ ਅੰਤਰ-ਅਨੁਸ਼ਾਸਨੀ ਪਹੁੰਚਾਂ ਦੀ ਮਹੱਤਤਾ ਨੂੰ ਉਜਾਗਰ ਕਰਦੇ ਹਨ, ਕਿਉਂਕਿ ਇਹ ਨੈਤਿਕ ਅਤੇ ਤਕਨੀਕੀ ਜਾਂਚ ਦਾ ਇੱਕ ਮੁਕਾਬਲਤਨ ਨਵਾਂ ਖੇਤਰ ਹੈ। ਗਿਆਨ ਦੀਆਂ ਵੱਖ-ਵੱਖ ਸ਼ਾਖਾਵਾਂ ਇੱਕ ਸੰਮਲਿਤ ਖੋਜ ਏਜੰਡੇ ਦਾ ਹਿੱਸਾ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ। ਇਹ ਪਹਿਲਕਦਮੀ ਟੈਕਨੋਲੋਜਿਸਟਸ ਅਤੇ ਨੀਤੀ ਨਿਰਮਾਤਾਵਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ ਸਮਾਜਿਕ ਸੰਦਰਭ ਅਤੇ ਹਿੱਸੇਦਾਰਾਂ ਪ੍ਰਤੀ ਸੁਚੇਤ ਰਹਿਣ ਦੀ ਲੋੜ ਵੱਲ ਵੀ ਇਸ਼ਾਰਾ ਕਰਦੀ ਹੈ, ਭਾਵੇਂ ਕਿ ਏਆਈ ਸਿਸਟਮ ਵਧੇਰੇ ਉੱਨਤ ਹੋ ਜਾਂਦੇ ਹਨ।

ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਦੇ ਪ੍ਰਭਾਵ

ਏਆਈ ਅਲਾਈਨਮੈਂਟ ਦੇ ਵਿਆਪਕ ਪ੍ਰਭਾਵਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋ ਸਕਦੇ ਹਨ: 

• ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਲੈਬਾਂ ਪ੍ਰੋਜੈਕਟਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਅਤੇ ਨੈਤਿਕ AI ਦਿਸ਼ਾ-ਨਿਰਦੇਸ਼ਾਂ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਵਿਭਿੰਨ ਨੈਤਿਕਤਾ ਬੋਰਡਾਂ ਨੂੰ ਨਿਯੁਕਤ ਕਰਦੀਆਂ ਹਨ। 
• ਸਰਕਾਰਾਂ ਕਾਨੂੰਨ ਬਣਾਉਂਦੀਆਂ ਹਨ ਜਿਨ੍ਹਾਂ ਲਈ ਕੰਪਨੀਆਂ ਨੂੰ ਆਪਣੇ ਜ਼ਿੰਮੇਵਾਰ AI ਫਰੇਮਵਰਕ ਨੂੰ ਜਮ੍ਹਾ ਕਰਨ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ ਅਤੇ ਉਹ ਆਪਣੇ AI ਪ੍ਰੋਜੈਕਟਾਂ ਨੂੰ ਹੋਰ ਵਿਕਸਤ ਕਰਨ ਦੀ ਯੋਜਨਾ ਕਿਵੇਂ ਬਣਾਉਂਦੇ ਹਨ।
• ਭਰਤੀ, ਜਨਤਕ ਨਿਗਰਾਨੀ, ਅਤੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਿੱਚ ਐਲਗੋਰਿਦਮ ਦੀ ਵਰਤੋਂ 'ਤੇ ਵਧੇ ਹੋਏ ਵਿਵਾਦ।
• ਨੈਤਿਕਤਾ ਅਤੇ ਕਾਰਪੋਰੇਟ ਟੀਚਿਆਂ ਵਿਚਕਾਰ ਹਿੱਤਾਂ ਦੇ ਟਕਰਾਅ ਕਾਰਨ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵੱਡੀਆਂ AI ਲੈਬਾਂ ਤੋਂ ਕੱਢਿਆ ਜਾ ਰਿਹਾ ਹੈ।
• ਸਰਕਾਰਾਂ ਲਈ ਉੱਨਤ AI ਪ੍ਰਣਾਲੀਆਂ ਨੂੰ ਨਿਯੰਤ੍ਰਿਤ ਕਰਨ ਲਈ ਵਧੇਰੇ ਦਬਾਅ ਜੋ ਦੋਵੇਂ ਅਵਿਸ਼ਵਾਸ਼ਯੋਗ ਤੌਰ 'ਤੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹਨ ਪਰ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਮਨੁੱਖੀ ਅਧਿਕਾਰਾਂ ਦੀ ਉਲੰਘਣਾ ਕਰ ਸਕਦੇ ਹਨ।

ਟਿੱਪਣੀ ਕਰਨ ਲਈ ਸਵਾਲ

• ਫਰਮਾਂ ਨੂੰ ਉਹਨਾਂ ਦੁਆਰਾ ਬਣਾਏ AI ਸਿਸਟਮਾਂ ਲਈ ਜਵਾਬਦੇਹ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾ ਸਕਦਾ ਹੈ?
• ਜੇ ਏਆਈ ਗਲਤ ਅਲਾਈਨਮੈਂਟ ਹੈ ਤਾਂ ਹੋਰ ਸੰਭਾਵੀ ਖ਼ਤਰੇ ਕੀ ਹਨ?