Соціальні боти: рефлексивне керування

В попередній частині циклу побіжно згадувався радянський та американський психолог та математик В.А. Лефевр, який сформував основи так званої рефлексивної теорії, яку ж і визначив, як «процес, в якому один із супротивників передає іншому підстави для прийняття рішень». Для зацікавленого читача можна порекомендувати знайти в мережі Інтернет статтю американського вченого Т.Л. Томаса «Рефлексивне керування в Росії: теорія та військове застосування», де доволі ґрунтовно описано як історію формування цієї теорії, так і її прикладне застосування.

Зазвичай, коли згадують рефлексію, то здебільшого виникає відсилання до означень, які подаються у філософській літературі чи літературі із психології, а саме під рефлексією розуміють авторефлексію, або так звану рефлексію першого роду — звернення пізнання на самого себе, тобто мислення про мислення, або процес самопізнання, за якого усвідомлюються та осмислюються власні думки та психологічні переживання. Власне ж у понятті рефлексивного керування мова йде про так звану рефлексію другого роду, тобто це роздуми суб'єкту (особи) про можливі роздуми іншої особи (суб'єкта) чи інших суб'єктів (груп людей — тих же персонажів у мережевих бульках).

Якщо розглядати сучасний світ, з його здебільшого непродуманими політичними, моральними та фінансово-економічними рішеннями, то тут виникає проблема віддалених наслідків управлінських рішень. Тобто особа, яка приймає рішення, дуже часто вважає, що супротивник буде діяти певним, вигідним їй чином і за такого сценарію формує стратегію своєї діяльності. Все б було б добре, якби ця стратегія «вела» супротивника, тобто супротивник в кожен момент часу не міг би здійснювати будь-які інші ходи, окрім тих, які запланувала ця особа. Це є ідеальний варіант, і він в тих же шахах називається «цугцванг». Але загалом в реальному світі такий варіант тяжко досяжний без виконання деяких додаткових дій на супротивника.

Тобто особа має прийняти рішення в процесі взаємодії з іншою особою (особами). І особа думає: «я зроблю такий крок, а на цей крок мій опонент має відповісти таким кроком, а далі я буду здійснювати такий крок, а опонент — такий. І так далі». Причому, ось тут і відбувається рефлексія другого роду, коли особа починає міркувати про те, якими міркуваннями має послугуватися суперник у процесі відповіді на її ходи. Наприклад, особа може вважати, що проти неї грає «якийсь дурник», який буде вибирати варіанти відповіді, які цей «дурник» буде вважати вигідними йому, а насправді ці варіанти відповіді будуть вести цього опонента у все гіршу ситуацію. Або особа буде вважати, що попри будь-які ходи, навіть невдалі, за цією «партією» спостерігає «вища сила», і як в казці зі щасливим кінцем, в останній момент ця «вища сила» забезпечить перемогу власне цій особі, а не опоненту. Та й багато інших варіантів оцінки способів мислення опонента. З іншого боку власне рефлексивне керування зі сторони опонента на особу і полягатиме в тому, щоб особа вважала, що грає з «якимось дурником», тобто невідповідно оцінювала опонента. За найпростішої аналогії, коли майстерний гравець сідає грати в карти на гроші й початково програє партію за партією, з одного боку доводячи суперника до бажання зіграти «на всі гроші», а з іншого не дає опоненту зрозуміти, що він загалом то грає із майстерним гравцем, щоб опонент не «зіскочив» з гри завчасно.

Взагалі то проблему мислення щодо того, як буде мислити опонент в тій чи іншій ситуації, люди зрозуміли дуже давно, і ще в Древньому Китаї поряд з поняттям стратегії ввели поняття «стратагеми», яке в найпростішому випадку можна пояснити як послідовність так званих «чорних ящиків», коли існують тільки вхідні параметри та вихідні результати, а сам процес перетворення вхідних параметрів у вихідний результат не контролюється, або невідомий, або неважливий для особи. Важливим тут є тільки припущення про те, що вихідні результати функціонально залежать від вхідних даних. І тому вивчення системи за «методом чорного ящика» зводиться до спостереження за нею та проведення експериментів зі зміни вхідних даних. При цьому під час спостережень за реакціями системи на зовнішні впливи досягається певний рівень знань (так званий ймовірнісний або нечіткий) про цей власне «чорний ящик», що і дозволяє прогнозувати поведінку «чорного ящика» за довільних заданих умов.

В Древньому Китаї під семантикою «стратагема» розуміли стратегічний план, в якому для супротивника включалася певна пастка чи хитрість. Стратагему від стратегії відрізняють дві суттєві відмінності:
- загалом стратегія є загальний, недеталізований довготривалий план діяльності. Тоді як стратагема — більш деталізована, прорахована послідовність дій, свого роду алгоритм поведінки, який враховує також і психологічні аспекти (наприклад, закласти в «чорний ящик» власного ходу провокацію «на слабо», або врахувати психологічний портрет особи, яка буде приймати рішення);
- стратегія скеровується на досягнення певної явної задекларованої цілі чи сукупності цілей. Водночас стратагема здебільшого скерована на досягнення власне тієї неявної цілі — пастки чи реалізації хитрості.

Якщо розглядати зв'язку тактика-стратегія, де тактика за фон Клаузевіцом є організація окремих операцій та їх реалізація, а стратегія є зв'язування цих операцій у загальний ланцюжок для досягнення цілей стратегії, то стратагема займає середнє значення між власне тактикою та стратегією. Власне трактат Сунь-цзи «Мистецтво війни» і є керівництвом до формування стратагем на основі описаних у 13 розділах складових військового інструментарію.

Так от, за Т.Л. Томасом: «одна з головних цілей для командувача у війні — втрутитися у прийняття рішення супротивником. Ця мета часто досягається з використанням дезінформації, маскування або будь-якої іншої стратагеми. Для Росії, один із таких основних методів — використання теорії рефлексивного керування. Цей метод можна використовувати проти людських чи машинних „процесорів прийняття рішень“. Рефлексивне керування визначається як спосіб передачі партнеру чи супротивнику спеціально підготовленої інформації, щоб схилити його „добровільно“ прийняти зумовлене рішення, бажане для ініціатора дії».

Здійснюючи огляд російських досліджень за тематикою використання арсеналу методів рефлексивного керування у військових цілях, Т.Л. Томас виділив роботи полковника С.А. Камова, який у своїх дослідженнях широко використовуючи напрацювання зі сфери рефлексивного керування до так званих «інтелектуальних методів інформаційної війни», виділяв такі основні елементи:
- відволікання уваги через реальну чи уявну загрозу;
- перевантаження через подання супротивнику великих обсягів самосуперечливої інформації;
- параліч, коли формується ілюзія точково скерованих загроз життєво важливим інтересам чи найуразливішим місцям;
- виснаження, коли супротивник використовує ресурси на виконання малопродуктивної діяльності;
- обман, що провокує противника перекидати та використовувати ресурси за «загрозливих» ділянках;
- розкол, що примушує супротивника діяти всупереч інтересам його союзників;
- умиротворення, через зниження пильності та формування ілюзій за насичення інфопростору суперечливими оцінками та висновками;
- залякування, через створення видимості незламної переваги;
- провокування, через нав'язування супротивнику невигідної послідовності дій;
- пропозиції, що формуються шляхом подання інформаційного матеріалу, який впливає юридично, морально, ідеологічно чи в інших сферах;
- тиск, шляхом подачі інформаційних матеріалів, які дискредитують уряд чи громадські інституції в очах населення.

Теорія рефлексивного керування формувалася та розвивалася в Радянському Союзі, і зараз використовується в Росії на противагу американським розробкам з теорії ігор та рівноваги Неша, де наріжним каменем останньої є твердження, що ні один з учасників не може збільшити виграш, змінивши свою стратегію, якщо інші учасники свої стратегії не міняють. Тобто, якщо є гра з рівновагою Неша, зміна стратегії усіма учасниками може призвести до збільшення загального виграшу кожного з них, але кожному окремому учаснику гри невигідно змінювати стратегію, бо він тоді буде у програші.

Наприклад, є ситуація, за якої електропостачання вимикається в цілому районі й всі мешканці знають, що електрична компанія не вирішуватиме проблем до тих пір, поки хтось із мешканців району не зателефонує у компанію та не повідомить про цю ситуацію. Але за здійснений дзвінок необхідно заплатити. Тобто, якщо ніхто не захоче телефонувати, тобто заплатити за дзвінок, то програш — відсутність електроенергії отримають усі мешканці району. Так от, за рівновагою Неша раціональною поведінкою у такому випадку є кожному мешканцю району чекати, коли знайдеться доброволець, який погодиться на здійснення такого дзвінка. Це є приклад так званої дилеми добровольця — де кожен гравець має можливість принести певну жертву, яка приносить користь всім, але замість цього буде чекати в надії отримати вигоду від чужої жертви.

Теорія ж рефлексивного керування взагалі не вважає, що тут є будь-яка проблема, оскільки завжди на районі знайдеться особа, яка, наприклад працює із дому та для якої ціна за дзвінок на відновлення електропостачання буде суттєво нижчою, ніж можливі втрати (недоотримані прибутки) за час відсутності електропостачання. Думаю, уважний читач зразу ж зрозуміє, коли щодо нього застосовують методи рефлексивного керування в його багатоквартирному будинку, де певні особи, які збирають інформацію про співмешканців, пізніше її використовують на засіданнях ОСББ, розповідаючи, що «держава» має зробити те чи інше в їх будинку, і вони ніяких грошей не будуть здавати на спільні проєкти у будинку, тим самим очікуючи скористатися результатами, які їм забезпечать інші мешканці — «добровольці».

Що найцікавіше, в російських джерелах, які аналізують російсько-українську війну, розглядається рефлексивне керування через поняття «функельшпіль» (Funkelspiel) — навмисно гучне обговорення свідомо неправильних версій для дезінформації супротивника. Тобто для росіян прогнози та коментарі західних аналітиків, як то Інституту вивчення війни (ISW) є дезінформаційними компаніями, скерованими на суспільну думку у РФ, де вони проводять аналогії з успішними радіоіграми німецького Абверу часів другої світової війни. Цими міркуваннями аргументується потреба в блокуванні на території РФ соціальних мереж, в першу чергу Telegram та YouTube. Але загалом, враховуючи звичайне для Росії віддзеркалення успішних соціальних методів та підходів, можна не сумніватися, що зі свого боку військово-політичне керівництво РФ вважає ті ж Telegram та YouTube найкращими соціальними мережами для впровадження в українському інформаційному просторі методів рефлексивного керування.  

Як зрозуміло уважному читачеві, тема рефлексивного керування значно ширша та об'ємніша, ніж наведені тут тези. Тому далі буде...