ОТ БРОЯ | Провокираме машината да греши, тя носи всички наши недостатъци

Този материал е част от есенния печатен брой на ПРОГРАМАТА. Открийте го ТУК.

Между човешката отговорност и Космоса се ражда rawlab.xyz. Артистично-изследователско дуо, което изследва пресечни точки между човека и неговите екстензии, като технология, език и изкуство. Рослана и Радина се стремят да поставят винаги човека в началото и да го държат морално подсъдим за опитите му, но все пак май не всички сме 100% хора. 
Текст: Стефани Стоева
Отговарят: Радина Йотова, Рослана Йотова (IG: rawlab.xyz)
Фотографи: Михаил Новаков, Велико Балабанов, Явор Кондов 

Какво се губи и какво се ражда, когато изкуството се изчислява?
Всички всичко изчисляват. Изчисляват инфлацията. Изчисляват лицето на паралелепипед. Изчисляват дори човешките емоции, настроения и коефициент на интелигентност. Не само в изкуството, но и в живота, когато започнем да изчисляваме – всичко е изгубено.
Ние сме върли противници на изчисленията. Стараем се да отправим критика точно към този аспект на съвременността, която прави всичко изчислимо. Нашата цел е да провокираме размисъл върху обезпокоителната реалност на профилирането и свеждането на идентичността на човек до числени стойности. Евгениката и френологията са две псевдонауки, които поставят основите на същите изчислителни механизми, с които работи и FaceID.

Друг проблематичен момент е, че хората се отказват напълно от своята емоционална интелигентност и автономия и оставят важните решения в ръцете на изчислителните технологии. Казват, че пистолетите не убиват хора. Хората убиват хора с пистолети. Но една автономна оръжейна система със смъртоносно действие взема решения, позовавайки се на предварително програмирани правила и алгоритмични модели. Без необходимост от потвърждението на оператор. Човекът създава машини, на които възлага морална отговорност, без да вземе предвид, че същите оперират на изчислителни принципи, изначално лишени от морални добродетели.

В нашето творчество се стараем да отправим критичен коментар към съвременните технологии, като го разглеждаме в техния контекст. Не просто като инструмент или „съ-автор“, а като явление, феномен и катализатор на обществени процеси. Това ни води и към втория въпрос. 

Кога технологията се превръща в културен коментатор, а не просто в инструмент за продукция?
Това е нашата основна цел. Използваме модели за лицево разпознаване, обектно разпознаване, генеративен изкуствен интелект и др. Винаги се опитваме да проследяваме ограниченията, характерни за парадигмата на машинното обучение. Често пъти идеите за проекти се раждат от опити с непозната за нас технология или код и от уязвимостите на алгоритъма. Не предлагаме отговори, а по-скоро рамкираме въпросите, с които се сблъскваме в процеса на създаване. 

Проектите ни са резултат от проучвания на теми като технологизацията на обществото и постоянно развиващия се пейзаж на медиираните взаимодействия. Използваме новите медии, за да коментираме скритите механизми и процеси зад тяхното функциониране. От инструмент за продукция технологията се превръща в субект на изследването ни. И по-конкретно изследване на влиянието ѝ върху формирането на социални норми и възприятия. Възприемаме технологиите не само като канали за предаване или генериране на съдържание, а като самото съдържание. 

Най-голямата трудност, която срещаме, е да избягаме от буквализъм. Да направим не просто демонстрация на даден процес, а авторски жест. Това се явява най-голямото предизвикателство и е присъствало като казус при всички наши съвместни проекти. Какво ще кажем, а не само покажем. 

Често пъти чуваме обратна връзка от посетители, че за тях е било много информативно преживяване. А понякога хора отказват да се запознаят с работата, защото смятат, че интеракцията им с творбата би компрометирала тяхната поверителност и тази на личните им данни. Тук идва интересният момент, в който човек осъзнато отказва да вземе участие в галерийното пространство, но неосъзнато участва в подобни процеси ежедневно. 

Как се развива това, което вие правите в България? Къде намирате подкрепа, какъв е отпорът?
Както всичко останало в България, така и изкуството се явява огромно предизвикателство. Дигиталните изкуства са по-слабо представени на местната сцена. Те са сложни за инсталиране и поддръжка и почти невъзможни за продан в традиционния смисъл. Изискват скъпа техника, силни компютри, мултимедия, множество екрани, окабеляване, включване/изключване и др. 

Продукционните бюджети почти никога не покриват наема на подобна техника. Имаме голям късмет, че нашите приятели и колеги винаги се отзовават и ни предоставят безвъзмездно личната си техника за периода на изложбата. 

Имали сме и много технически затруднения и казуси. Имало е сърдити директори на градски галерии и се е случвало, без да искаме, да ядосаме куратори. Въпреки това вярваме в стойността на това, което правим. 

Срещали сме подкрепа в лицето на ментори и колеги, куратори или малки общности, които ни мотивират да продължим. DA_LAB е лаборатория за дигитални изкуства, която подкрепя млади артисти и активно полага усилия за развитието на сцената у нас, както и синхронизирането на процесите в България със съвременните тенденции в дигиталното изкуство по света. КО-ОП, ReBonkers, BUNA, Аether също активно представят млади артисти и продуцират нетрадиционни формати.

Разчитаме най-вече на семейство и приятели, безценните доброволци и щедростта на цялата общност от творци и културни дейци. А най-голямата мотивация идва от срещите с посетители и техните отзиви. 

Какви етични проблеми срещате в работата си в дигиталното изкуство и човешкия елемент?
Генерално има много етични проблеми около изкуствения интелект. Човешкият елемент е най-големият проблем, разбира се. Без него не би съществувал и изкуственият интелект. Тъй като тези машини са обучени от хора, всички наши предразсъдъци остават дълбоко внедрени в подобни технологии. 

Друг колосален проблем са данните. Откъде идва информацията, с която се обучава изкуствения интелект, кой я контролира и притежава, както и фактът, че машините репродуцират стереотипи и модели на доминация.

Тук трябва отново да споменем и проблематиката с изчислителните процеси датафикацията на човешката идентичност. Данните представляват човешкото съществуване като количествено измерими показатели. Биометричното наблюдение например трансформира физическите атрибути в цифрови данни за идентификация, проследяване и анализ на поведението. Количественото определяне на човешката самоличност подкопава представите ни за поверителност и автономност?

През какво минава свързването на естественото въображение и кода?
Проблематизираме съвременните технологии, подхождайки с критически анализ към новите медии и изкуствения интелект. Стараем се да разкрием не само техническите, но и политически им измерения. Демонстрираме техните ограничения и предубеждения. Провокираме машината да греши. Анализираме ролята на човека в обучението на алгоритмите, разобличаваме мита за обективност и изследваме машинното обучение като културно и политически обусловен процес.   

Когато създаваме интерактивни преживявания, наблягаме на ролята на посетителя в активирането на произведението, което подсилва идеята, че смисълът се изгражда съвместно чрез взаимодействие и консенсус. Обичаме да мислим за нашата работа като „задвижвана от“ зрителя. Тя реагира и се променя. 

Този процес произвежда нови значения, които понякога надскачат първоначалния замисъл. Именно в този диалог откриваме художествения потенциал на новите медии. 

Кое е суровото в работата на raw.lab?
На първо място това е естетиката и по-скоро липсата на естетизация. Естетиката е силно повлияна от естеството на медиите, които използваме. В известен смисъл това е „суровата“ естетика на медията. Когато започнахме да работим заедно, ни трябваше име. В академията получаваме една и съща обратна връзка от преподавателите си – че работата ни много често е „сурова“. Понякога в добър смисъл, но не винаги. Сега го правим винаги и умишлено. 

С този подход оставяме видими процесите, грешките и абсурдите, които възникват при взаимодействието между човека и машината. Тази неподправеност придава автентичност и създава пространство, в което можем да запазим директната, необработена връзка между посланието и технологията. 

100% хора ли сте?
Зависи как определяме хората. Какво значи да си човек? За машината човек означава няколко неща – лицевите маркери – нос, очи, уста, уши. Рамене, лакти, китки. Торс, колене и ходила. Но за човека човек означава много повече. В българският език думата „човек“ е многозначна. „Имам човек“, „Ти си голям човек“, „От теб няма да стане човек“, „Не-човек“ и т.н. За да определим човека като „човек“ трябва да имаме много ясна дефиниция за човек. Но дори и да приемем колективно определение на думата, дефиницията ѝ си остава не-изчислима. 

Никой не е 100% човек. И ние не сме.