اوپن اے آئی نے قابل یقین جعلی خبریں لکھنے والے ٹول کو شائع کر دیا
اوپن اے آئی نے فروری میں اعلان کیا تھا کہ انہوں نے ایک ایسا الگورتھم ڈویلپ کیا ہے جو جعلی خبریں ااور سپام لکھ سکتا ہے۔اس الگورتھم کو خطرناک سمجھتے ہوئے اوپن اے آئی نے اسے ظاہر بھی نہیں کیا تھا۔
اوپن اے آئی نے اس کا کچھ حصہ شائع کیا تھاتاہم اب اوپن اے آئی کا کہنا ہے کہ انہیں اس الگورتھم کے غلط استعمال کے ٹھوس شواہد نہیں ملے، اس لیے اسے مکمل شائع کر دیا گیا ہے۔
اے آئی ، جی پی ٹی -2 کو اصل میں سوالات کے جوابات دینے، کہانیوں کو مختصر کرنے اور متن کو ترجمہ کرنے کے لیے ڈیزائن کیا گیاتھا۔لیکن محققین کا خیال تھا کہ اسے بڑے پیمانے پر گمراہ کن خبریں پھیلانے کے لیے استعمال کیا جا سکتا ہے۔اس کی بجائے انہوں نے دیکھا کہ اسے ٹیکسٹ ایڈونچر گیمز کی تربیت کرنے اور یونی کورنز کی کہانیاں لکھنے کے لیے استعمال کیا گیا ہے۔
چونکہ اس الگورتھم کے مخصوص حصے کوغلط استعمال نہیں کیا گیا تھا، اس لیے اوپن اے آئی نے اسے مکمل جاری کر دیا ہے۔
اوپن اے آئی نے اس کا کچھ حصہ شائع کیا تھاتاہم اب اوپن اے آئی کا کہنا ہے کہ انہیں اس الگورتھم کے غلط استعمال کے ٹھوس شواہد نہیں ملے، اس لیے اسے مکمل شائع کر دیا گیا ہے۔
اے آئی ، جی پی ٹی -2 کو اصل میں سوالات کے جوابات دینے، کہانیوں کو مختصر کرنے اور متن کو ترجمہ کرنے کے لیے ڈیزائن کیا گیاتھا۔لیکن محققین کا خیال تھا کہ اسے بڑے پیمانے پر گمراہ کن خبریں پھیلانے کے لیے استعمال کیا جا سکتا ہے۔اس کی بجائے انہوں نے دیکھا کہ اسے ٹیکسٹ ایڈونچر گیمز کی تربیت کرنے اور یونی کورنز کی کہانیاں لکھنے کے لیے استعمال کیا گیا ہے۔
چونکہ اس الگورتھم کے مخصوص حصے کوغلط استعمال نہیں کیا گیا تھا، اس لیے اوپن اے آئی نے اسے مکمل جاری کر دیا ہے۔
تاریخ اشاعت : ہفتہ 9 نومبر 2019