Внедряване на AI в бизнеса стъпка по стъпка: правила, отговорности и проверка на резултата

Откъде идва хаосът при внедряването на AI

По данни на Евростат за 2025 г. 19,95% от фирмите в ЕС с 10 и повече заети ползват AI. В България делът е 8,55%. Сред фирмите, които са обмисляли AI и не са го въвели, най-честата причина е липсата на нужните знания (70,89%). Следват неяснотата около правните последици (52,52%) и опасенията за защитата на личните данни (48,83%).

Трите причини си приличат: фирмата не знае какво точно се случва, когато служител ползва AI. И трите се решават по един и същ начин: със списък на употребите, една страница правила и отговорник за всяка употреба.

Стъпка 1: направете списък кой какво вече ползва

Започнете с инвентаризация. Попитайте всеки служител с какви AI инструменти работи, за какви задачи и какви данни им дава. Обяснете предварително, че целта е да се подреди, а не да се наказва. Иначе ще получите непълен списък.

За всяка употреба запишете пет неща:

• Задачата: например чернова на отговор до клиент, превод на продуктово описание, справка по продажби.
• Инструментът и вида на профила: безплатен личен или фирмен с договор.
• Данните, които влизат: лични данни на клиенти, цени, договори, вътрешни числа.
• Къде отива резултатът: към клиент, в счетоводството, в сайта, само за вътрешна употреба.
• Кой проверява резултата, преди да бъде използван.

Стъпка 2: напишете правилата на една страница

Тук се взима и първото решение с пари: безплатни лични профили или фирмени профили с договор. При безплатния профил проверете в условията дали въведените данни се ползват за обучение на модела. Фирменият профил струва пари, но е на името на фирмата: тя управлява достъпа и може да го спре, когато служителят напусне. За употреби с данни на клиенти ползваме само фирмени профили, след като сме прочели условията им за данните.

Правилата трябва да се четат за пет минути, иначе никой няма да ги спазва. Пишете ги като конкретни забрани и разрешения, с примери от вашата работа. Нашият минимум изглежда така:

1. Лични данни на клиенти влизат само в инструменти с фирмен договор, за които знаем къде пазят данните и дали ги ползват за обучение.
2. За справки и анализи моделът получава данни без имена, телефони и адреси.
3. Всичко, което излиза навън (писмо, оферта, текст в сайта), минава през човек, който го чете, преди да го изпрати.
4. Числа, суми, дати и номера от AI се проверяват по източника или по правило.
5. Ако клиент разговаря пряко с бот, ботът казва, че е бот.
6. Нов инструмент или нова употреба се добавя в списъка от стъпка 1, преди да започне да се ползва.

Стъпка 3: един отговорник за всяка употреба

Всяка употреба от списъка има собственик. Собственикът може и да не е човекът, който натиска бутона. Той отговаря, ако резултатът е грешен: следи качеството, събира грешките и решава кога употребата се разширява или спира.

Отделно определете кой натиска последния бутон. При нас правилото е твърдо: AI агентът подготвя, човекът изпраща. Отговорът до клиента, поръчката към доставчика и промяната на цена в сайта имат човек, който ги потвърждава, и този момент се вижда в системата. Ако нещо се обърка, може да се посочи кога и от кого е потвърдено.

Удобно е да ползвате готова рамка, за да не забравите нещо. NIST публикува на 26 януари 2023 г. рамка за управление на рисковете от AI, предназначена за доброволно ползване. Тя е подредена в четири функции: управление (Govern), картографиране (Map), измерване (Measure) и справяне с рисковете (Manage). За малка фирма тя е по-скоро списък с въпроси, отколкото процедура, но като такъв върши работа.

Стъпка 4: определете предварително какво е добър резултат

Повечето пилотни проекти с AI се оценяват на усет: „изглежда добре“. Преди да започнете, запишете как изглежда верният резултат и как ще го проверите. За превод това може да е списък с термини, които винаги се превеждат по един и същ начин. За отговор до клиент: правилна поръчка, правилна сума, правилен срок, без обещания, които фирмата не дава.

После проверявайте на извадка. В началото човек преглежда всичко. Когато видите дълга поредица верни резултати, можете да минете на проверка на част от тях, но не и при задачи, които пипат пари. Водете прост дневник на грешките: дата, задача, каква е грешката, как е хваната. След месец той показва дали употребата спестява време или само го мести от писането към поправянето.

Едно предупреждение от практиката. AI се справя добре с неструктуриран текст, но там, където има точно правило (формат на номер, контролна цифра, сума, която трябва да се равнява), проверката по правилото е по-сигурна от всеки промпт.

Какво изисква Регламентът на ЕС за изкуствения интелект

Регламентът (AI Act) е в сила от 1 август 2024 г. Според Европейската комисия забранените практики и задължението за AI грамотност се прилагат от 2 февруари 2025 г., задълженията за моделите с общо предназначение от 2 август 2025 г., а регламентът е приложим от 2 август 2026 г. с някои изключения. Правилата за прозрачност влизат в сила през август 2026 г. С т.нар. омнибус срокът за високорисковите системи по приложение III (например при подбор на персонал) е удължен до 2 декември 2027 г.

Регламентът разделя системите в четири нива на риск: неприемлив, висок, риск, свързан с прозрачността, и минимален или никакъв риск. Обичайните офис употреби (чернови, преводи, обобщения) са в най-ниското ниво. Чатбот, който говори с клиенти, попада в правилата за прозрачност и трябва да казва, че е машина.

Задължението, което засяга почти всяка фирма, е AI грамотността по чл. 4. В отговорите си на въпроси по темата Комисията пише, че не е нужен сертификат, че форматът на обучението зависи от ролята на фирмата и от риска и че фирмата може да води вътрешен запис на обученията. Дава и пример: ако служители ползват ChatGPT за реклами или преводи, фирмата трябва да ги информира за конкретни рискове като измислените факти („халюцинации“). Правилата от стъпка 2 и кратко обучение по тях са добро начало.

Стъпка 5: разширявайте само това, което е доказано

Когато една употреба има собственик, правила, мярка за добър резултат и дневник с малко грешки, можете да я разширите: повече задачи от същия вид, повече хора, по-малко ръчна проверка. Когато една употреба не дава резултат след месец, я спрете и я махнете от списъка.

Следващата употреба минава през същите стъпки. Така след половин година имате списък с употреби, всяка от които е измерена. Как изглеждат AI агентите при нас, когато минат през тези стъпки, описваме в „AI агенти“.