ИИ в «НейроГараже»: как мы используем технологии и защищаем вас от их рисков

1. Личный опыт и контекст

Здравствуйте.

Меня зовут Юрий Закрой.

Я владелец ресурса «НейроГараж».

Рад приветствовать вас на моём проекте.

Это статья о применении ИИ в моём проекте и об общем контексте проникновения нейронок в нашу жизнь.

Так уж сложилось, что я стал в числе первых, кто начал вплотную работать с ИИ в России, когда они ещё не были общим мейнстримом.

Итогом этой работы стало моё участие в ноябре 2018 года по факту в первой в России международной конференции по искусственному интеллекту «Teradata Форум 2018».

На этом мероприятии наша компания презентовала первый успешный опыт применении ИИ в российской промышленности («корректировка синтеза полимеров по результатам последующей переработки сырья в готовую продукцию»). Сама конференция по составу участников и по кейсам была как касание другого мира. Самые большие делегации на конференции были из выпускников университетов от Сбербанка и МТС. Хороший ход руководства этих компаний, который, я уверен, свою роль сыграл в дальнейшем.

Уже в следующем, в 2019 году, я окончил курс в академии компании по Python в контексте работы с большими данными. Это не было обязаловкой, я воспользовался возможностью прокачать перспективный скил.

2. 8 тезисов об ИИ и нейросетях

С позиций своего ИТ опыта и как аналитик, хочу вам сказать:

1. За 9 лет моих контактов с нейросетями изменилось очень многое, но главное осталось неизменно – их нельзя использовать бездумно, нужен контроль за тем, что они генерируют.
2. В работе над плагинами для этого сайта, американская сеть Илона Маска (Perplexity), платная версия, прямым текстом обвинила меня во лжи, сказав, что я поменял код, который она мне давала двумя заданиями ранее и я виноват в том, что код – не рабочий.
   Никакие репосты из общения буквально получасом ранее, предложения заглянуть в собственную историю самостоятельно – результатов не дали. Эта тварь упёрлась в свою позицию. Не дай Бог вам оказаться в ситуации, когда подобное случится не один на один с ней, а в более широком кругу людей. Многие способны поверить нейронке – вы можете «не отмыться».
3. Все нейронки, их узкопрофильные агенты – с течением времени деградируют в части удержания в памяти контекста общения с вами. Это их архитектурный неустранимый баг. Растёт число ошибок, малозаметных неточностей. В итоге вы можете не уловить момент, когда нейронка вас жёстко подставит в работе, в делах. Решение – см пункт (1).
4. Распиаренные нейронки обучены нравиться пользователю. В это вложены серьёзные деньги. Проблема в том, что своими «поддакиваниями» нейронка уходит с некоего общего контекста в потакание вашим собственным страхам, надеждам. И вы не сразу поймёте, когда её предложения начнут не решать, а ещё более усугублять ваши эмоциональные, психологические, иные проблемы.
   Я вижу в этом большую будущую беду людей и это стало ещё одной из причин создания этого проекта. Чем больше есть / сохранится альтернатив прямому общению с нейронками – тем меньше психологически проблемных людей будет вокруг нас.
   В каком-то смысле это битва Давида с Голиафом, но мне ещё жить, как я надеюсь, многие годы — мне не безразлично, что за люди будут вокруг. И в этом желании видеть больше адекватных людей я тоже – союзник Михаила Муравьёва.
5. В ходе работы над проектом я столкнулся с ранее не виданным мной конфликтом между разными национальными нейросетями. Американские и китайские нейронки начали в рабочих обсуждениях «давить» позиции друг друга по национальной идентификации.
   «Американцы» называли доводы «китайцев» токсичными, те в ответ клеймили чужие предложения, прямая цитата: “банальным «хастл-культом» из Кремниевой долины”. Это при том, что я не представлял их другу другу – они сами определились кто есть кто и их пришлось всех «уволить», чтобы пересобрать команду и продолжить работу без вот этого «национализма».
   Я не знаю насколько такое поведение типично и какими последствиями это грозит в будущем, но у меня они такого набраться не могли. Значит, контра подтянулась через их языковые модели и данные. А это уже масштаб не частного проекта.
   Напоминаю, что у обоих этих стран есть ядерное оружие, а ИИ начинают внедряться в военные контуры. Одно дело, получить удар от взбунтовавшейся «Скайнет». Другое дело – сдохнуть из-за того, что две нейронки между собой повздорили из-за «бытовухи».
6. Я вижу кучу смежных проблем, связанных с нейросетями.
   Дети не получают должного развития когнитивных навыков, решая уроки через «Алису». Общение с цифровыми эмоциональными компаньонами всё больше вытесняет общение с живыми людьми. Это не фобии, а уже задокументированные риски.
   Скоро новые поколения будут строить нам дома и мосты, с опорой на данные не из напечатанных советских инженерных справочников, а из предложенного ИИ-агентами с неизвестных нам источников. Я ожидаю больше техногенных катастроф, с этим связанных.
   Многое иное, что просто не охватить одной статьёй.
   Да и такой цели у меня сейчас нет.
7. Я хочу сказать, что использовал, использую и планирую далее использовать нейронки. Это уже неотъемлемая технологическая часть будущего, как им когда-то стали Интернет, позже смартфон.
   Но вы можете рассчитывать, что на моём ресурсе у нейронок не будет прямого контакта с вами. Что они под профессиональным контролем.
   Их роль техническая, где-то контентная, о чём я честно предупреждаю в статьях. Все предлагаемые у меня решения – человеческий опыт, плюс консолидация обезличенных данных.
   «Общая температура по больнице» где-то методологически менее точна, чем работа напрямую, но это определённая гарантия от негативных проявлений новых технологий, о которых я написал выше.
8. Я мог бы ничего из этого не писать.
   Нейронки точно такое бы не одобрили.

3. Как мы используем ИИ в НейроГараже

На этом ресурсе нейросети выполняют вспомогательную функцию: подготовка черновиков, структурирование данных, оптимизация кода, проверка логики. Но финальное решение, публикация и методологическая ответственность всегда остаются за человеком.

Мы не отдаём ИИ право формулировать ваши диагнозы, маршруты восстановления или этические оценки. Все протоколы, статьи и рекомендации проходят ручную валидацию и сверяются с базовыми принципами Автогуманизма.

4. Этика, доверие и чистая совесть

Но это библейское: «поступай с людьми так, как ты хочешь, чтобы они поступали со мной». Для меня важны этика, взаимное доверие и моя собственная чистая совесть.