რატომ ვამოწმებთ AI-ის პასუხებს სულ უფრო ნაკლებად? | Marketer

AI-ის მიერ მომზადებულ ტექსტს გადახედეთ, ორი ფრაზა შეცვალეთ, ერთი უხერხული წინადადება გაასწორეთ და გაგზავნეთ. თითქოს ყველაფერი შეამოწმეთ. მაგრამ თუ ვინმე გკითხავთ, რატომ აირჩიეთ სწორედ ეს არგუმენტი, რას ეყრდნობა ერთ-ერთი დასკვნა ან რამდენად შეესაბამება ტექსტი დავალების მიზანს, პასუხისთვის შესაძლოა დოკუმენტთან დაბრუნება დაგჭირდეთ.

ასეთ დროს პრობლემა ყოველთვის მოდელის შეცდომა არ არის. შეიძლება ტექსტი გამართულიც იყოს და ფაქტებიც სწორად ჰქონდეს მოყვანილი, თუმცა მისი შინაარსი ბოლომდე გააზრებული არ გვქონდეს. სწრაფი გადაკითხვა ქმნის განცდას, რომ ნამუშევარი შევაფასეთ, მიუხედავად იმისა, რომ ძირითადად ფორმულირებებს შევეხეთ.

AI ამ ჩვევას განსაკუთრებით ხელსაყრელ გარემოს უქმნის. ის სწრაფად გვაწვდის დალაგებულ პასუხს, თავდაჯერებულად მსჯელობს და ტექსტს დასრულებული ნამუშევრის სახეს აძლევს. რაც უფრო ხშირად გამოგვადგება მისი პასუხი, მით უფრო ადვილია შემდეგ ჯერზე შემოწმებისთვის ნაკლები ყურადღების დათმობა.

ავტომატიზებული სისტემებისადმი ასეთი ნდობა ხელოვნურ ინტელექტამდე დიდი ხნით ადრე შეისწავლეს. 1990-იან წლებში ავიაციის მკვლევრები აკვირდებოდნენ შემთხვევებს, როცა გამოცდილი პილოტები ავტომატიზებული სისტემის მცდარ რეკომენდაციას მიჰყვებოდნენ, მიუხედავად იმისა, რომ სხვა ხელსაწყოების მონაცემები პრობლემაზე მიუთითებდა. სისტემა მანამდე იმდენჯერ აღმოჩნდა მართალი, რომ მის პასუხს ძველებური სიფრთხილით აღარ ამოწმებდნენ.

ავტომატიზაციის კვლევების 2010 წლის მიმოხილვაშიც მსგავსი სურათი გამოიკვეთა. საიმედო სისტემასთან ხანგრძლივი მუშაობისას ადამიანს შეიძლება ზედამხედველობა მოუდუნდეს. თუ დიდი ხნის განმავლობაში არაფერი ფუჭდება, შემოწმება თანდათან ზედმეტ ძალისხმევად ეჩვენება.

AI-ის შემთხვევაში ამას ტექსტის დამაჯერებელი ფორმაც ემატება. 1999 წელს ჩატარებულ ფსიქოლოგიურ ექსპერიმენტში მონაწილეებს ერთნაირი მტკიცებები სხვადასხვა, მარტივად ან რთულად წასაკითხი შრიფტით აჩვენეს. ადვილად წასაკითხი ვერსიები მათ უფრო სარწმუნოდ შეაფასეს, მიუხედავად იმისა, რომ შინაარსი არ განსხვავდებოდა. ინფორმაციის მარტივად დამუშავების განცდა მის სისწორეზე მსჯელობაშიც აისახა.

AI-ის პასუხებსაც ხშირად სწორედ ეს თვისება აქვს. გამართული გრამატიკა, თავდაჯერებული ტონი და მოწესრიგებული სტრუქტურა შთაბეჭდილებას ტოვებს, რომ ტექსტმა რედაქტირება უკვე გაიარა. თვალშისაცემი ხარვეზების შემცირებასთან ერთად კი დარჩენილი შეცდომების აღმოჩენა მეტ ყურადღებას მოითხოვს.

ამიტომ, დაპირება „გაგზავნამდე გადავხედავ“ შემოწმების საკმარისი გეგმა არ არის. გადახედვა შეიძლება მხოლოდ რამდენიმე სიტყვის შეცვლით დასრულდეს. საფუძვლიანი შეფასებისას კი უნდა გავარკვიოთ, რას ვეთანხმებით, რა ვარაუდი შემოგვთავაზა მოდელმა და რისი გადამოწმებაა საჭირო. შესაძლოა, წინადადება ლამაზად ჟღერდეს, მაგრამ იმაზე კატეგორიული იყოს, ვიდრე არსებული ინფორმაცია გვაძლევს უფლებას.

ამ რისკის შესამცირებლად ერთ-ერთი პრაქტიკული ნაბიჯია, AI-ის პასუხის ნახვამდე საკუთარი პოზიცია მოკლედ ჩამოვწეროთ. სრულყოფილი მონახაზი საჭირო არ არის. საკმარისია რამდენიმე ჩანაწერი იმის შესახებ, რას ვფიქრობთ, რა ვიცით, რაში გვეპარება ეჭვი, რის მტკიცებას არ ვაპირებთ და რა უნდა მიიღოს მკითხველმა ტექსტისგან.

ასეთი ჩანაწერები შედარების საფუძველს გვაძლევს. მოდელის პასუხს უკვე კონკრეტული კითხვებით ვკითხულობთ: ხომ არ გააქრო მნიშვნელოვანი განსხვავება? ხომ არ წარმოადგინა ვარაუდი ფაქტად? ხომ არ შეცვალა ტექსტის მიზანი მხოლოდ იმიტომ, რომ სხვა მიმართულებით უფრო დამაჯერებელი აბზაცის დაწერა შეეძლო?

AI-ისადმი ზედმეტი ნდობის შესამცირებლად 2021 წელს ჩატარებულ კვლევაში გამოცადეს მიდგომებიც, რომლებიც ადამიანს მოდელის პასუხის ნახვამდე საკუთარი გადაწყვეტილების მიღებას სთხოვდა. ასეთი ჩარევები ეფექტური აღმოჩნდა, თუმცა მომხმარებლებს ნაკლებად მოსწონდათ. ეს გასაგებიცაა: ავტომატიზაციას ხშირად სწორედ ძალისხმევის შესამცირებლად ვიყენებთ, წინასწარ დაფიქრების მოთხოვნა კი პროცესს ანელებს.

მეორე ნაბიჯი მონახაზის მიღებასა და შეფასებას შორის დროის დატოვებაა. რამდენიმე AI-ტექსტის ზედიზედ წაკითხვისას ყურადღება თანდათან სუსტდება. თუ შესაძლებლობა გვაქვს, უმჯობესია, დილით მომზადებულ მასალას შუადღისას დავუბრუნდეთ ან საბოლოო რედაქტირება მეორე დღისთვის გადავდოთ.

ზოგჯერ სამუშაო გარემოს შეცვლაც გვეხმარება. ჩატში მიღებული პასუხი ცალკე დოკუმენტში გადავიტანოთ და იქ წავიკითხოთ. ნაცნობ ინტერფეისში შეიძლება საუბრის გაგრძელებასავით აღვიქვამდეთ ტექსტს, სხვა ფორმატში კი უფრო ადვილად შევხედოთ როგორც მასალას, რომელიც გამოსაქვეყნებლად ან კლიენტისთვის გასაგზავნად უნდა შეფასდეს.

მესამე ნაბიჯია, საკუთარ თავს ავუხსნათ, რატომ ვიღებთ მოდელის შეთავაზებას. მნიშვნელოვანი რეკომენდაციის, ტექსტის მთავარი იდეის ან დასკვნის დამტკიცებამდე შეიძლება ერთი წინადადება დავწეროთ: რატომ არის ეს სწორი ამ კლიენტისთვის, ამ ამოცანისთვის და ამ მკითხველისთვის?

თუ პასუხი მხოლოდ „კარგად ჟღერს“ არის, შეფასება ჯერ დასრულებული არაა. საჭიროა უფრო კონკრეტული საფუძველი: ეს მაგალითი საკითხს გასაგებს ხდის, ეს არგუმენტი მონაცემებით მყარდება, ეს ფორმულირება კი ზუსტად გადმოსცემს იმას, რისი თქმაც გვინდა. საკუთარი არჩევანის ახსნა გვაჩვენებს იმ ადგილებსაც, სადაც გადაწყვეტილება სინამდვილეში ჯერ არ მიგვიღია.

მთელი პასუხისმგებლობის მხოლოდ მომხმარებლის ყურადღებაზე გადატანაც არასაკმარისია. სამუშაო ხელსაწყოები უნდა გვეხმარებოდეს ინფორმაციის წყაროს დანახვაში, მონახაზის შექმნისა და საბოლოო დამტკიცების გამიჯვნაში, ასევე იმის გარკვევაში, რა დაამატა ადამიანმა და რა შემოგვთავაზა მოდელმა. ასეთ პროცესში შემოწმებას თავისი დრო და დანიშნულება ექნება.

AI-ის დახმარებით შეგვიძლია მეტი მასალა მოვიძიოთ, სხვადასხვა მიდგომა გამოვცადოთ და რთულ დავალებას უფრო სწრაფად გავუმკლავდეთ. თუმცა დასრულებულ ტექსტზე თანხმობა იმასაც უნდა ნიშნავდეს, რომ მისი მთავარი გადაწყვეტილებები გვესმის. გაგზავნამდე საკუთარ თავს უნდა ვკითხოთ: შევძლებ ამ არგუმენტის ახსნასა და დაცვას, თუ ვინმე მის საფუძველს ეჭვქვეშ დააყენებს?