Вот те раз. Не прошло и пары дней с момента, как DeepSeek обвалил чуть ли не Самую Дорогую Компанию в Мире, выясняется, что у него самого что-то не так. Совершенно внезапно американская ИБ компания Wiz нашла в интернете в открытом виде некую базу данных, связанную с китайским ИИ-стартапом. И база эта лежала там оказывается давно. А чтобы получить над ней полный контроль «программистам» Wiz потребовалось всего несколько минут. Какое совпадение. Примерно такое же, как и факт отсутствия в топ-менеджменте этой ИБ компании людей с китайскими фамилиями (и лицами). Очень, по текущим временам, необычно, хотя и дальновидно, для простой американской (гражданской) ИБ компании. Которая, к слову, обслуживает «45% of Fortune 100». Это при условии, что работает только с 2020 года.
С другой стороны – молодцы, что нашли. А то ведь в те базы, если это и правда они, могло утечь много чего интересного из самого Пентагона. Ведь еще с сентября 2024 года «американские военнослужащие начали загружать раннюю версию кода DeepSeek на свои рабочие станции». Просто так, потестить-поиграться. На рабочих машинах. Ага. Но уже все хорошо, Пентагон уже заблокировал сотрудникам доступ к чат-боту.
Но мы сегодня не про странные совпадения как таковые. А про то, насколько важно у кого конкретно совпадает. Вот нашли бы эту базу, скажем «программисты» из ИБ-подразделения OpenAI. Мы уверены, что они там есть и весьма хороши. Все бы (на реддите и хабре) сказали – ага, не верим! Все вы подстроили!!! И кто знает, ошиблись бы… Или вот, скажем кто-то из не менее профессиональных, но не американских, а, например, российских специалистов. Чтобы было? А ничего. Даже если бы написали они у себя на корпоративном сайте об этом и Первый Канал к ним в офис бы приехал. День бы пошумело (на хабре) и все. А почему? А потому, что важно не только что сказано, но и кем. И с кого за сказанное потом спросить можно.
И тут мы подходим к интересному выводу – а никогда ИИ в полной мере не заменит ни юристов, ни экспертов (а также судей, врачей, политиков и так далее). И даже не потому, что это какие-то супер творческие профессии или для них нужно очень много знать. С этим-то как раз ИИ справится. А именно потому, что есть фактор личной ответственности. Есть персона с определенным статусом, который сам по себе уже что-то гарантирует получателю «услуг» этой персоны.
Ну вот, например. Есть у вас два аналитических отчета, по скорингу (само собой по открытым источникам) для нужд СБ или ЭБ. Важно для вас, кто конкретно их подготовил – супер умная SaaS штука на база GenAI или команда аналитиков из плоти и крови? Если вам это нужно для внутренней проверки, без выхода за контур, так сказать, то скорее всего вам интереснее тот отчет, что точнее, быстрее и дешевле сделается. А это как раз про ИИ. Конкретный исполнитель не важен.
А вот если вам нужно с неким отчетом (заключением) идти, например, в суд – тут уже возникает вопрос, а кто за этот отчет возьмет на себя ответственность и подтвердит, что там все верно и по методике. И за этого «кого-то» вряд ли посчитают простого «оператора» ИИ. Нужен эксперт. С опытом, кейсами и прочим, что в судах считается важным для подтверждения должной квалификации. То есть пойдете вы не к ИИ-станку, а к конкретному человеку. Возможно, даже к кому-то, кто раньше с ним имел дело, рекомендованному. С репутацией. Даже если и скорость будет человеческая, а не сверх-космическая. В важных-то делах спешка может и не положительная характеристика вообще.
Вот такие вот мысли про роль личности в нашем деле.
С другой стороны – молодцы, что нашли. А то ведь в те базы, если это и правда они, могло утечь много чего интересного из самого Пентагона. Ведь еще с сентября 2024 года «американские военнослужащие начали загружать раннюю версию кода DeepSeek на свои рабочие станции». Просто так, потестить-поиграться. На рабочих машинах. Ага. Но уже все хорошо, Пентагон уже заблокировал сотрудникам доступ к чат-боту.
Но мы сегодня не про странные совпадения как таковые. А про то, насколько важно у кого конкретно совпадает. Вот нашли бы эту базу, скажем «программисты» из ИБ-подразделения OpenAI. Мы уверены, что они там есть и весьма хороши. Все бы (на реддите и хабре) сказали – ага, не верим! Все вы подстроили!!! И кто знает, ошиблись бы… Или вот, скажем кто-то из не менее профессиональных, но не американских, а, например, российских специалистов. Чтобы было? А ничего. Даже если бы написали они у себя на корпоративном сайте об этом и Первый Канал к ним в офис бы приехал. День бы пошумело (на хабре) и все. А почему? А потому, что важно не только что сказано, но и кем. И с кого за сказанное потом спросить можно.
И тут мы подходим к интересному выводу – а никогда ИИ в полной мере не заменит ни юристов, ни экспертов (а также судей, врачей, политиков и так далее). И даже не потому, что это какие-то супер творческие профессии или для них нужно очень много знать. С этим-то как раз ИИ справится. А именно потому, что есть фактор личной ответственности. Есть персона с определенным статусом, который сам по себе уже что-то гарантирует получателю «услуг» этой персоны.
Ну вот, например. Есть у вас два аналитических отчета, по скорингу (само собой по открытым источникам) для нужд СБ или ЭБ. Важно для вас, кто конкретно их подготовил – супер умная SaaS штука на база GenAI или команда аналитиков из плоти и крови? Если вам это нужно для внутренней проверки, без выхода за контур, так сказать, то скорее всего вам интереснее тот отчет, что точнее, быстрее и дешевле сделается. А это как раз про ИИ. Конкретный исполнитель не важен.
А вот если вам нужно с неким отчетом (заключением) идти, например, в суд – тут уже возникает вопрос, а кто за этот отчет возьмет на себя ответственность и подтвердит, что там все верно и по методике. И за этого «кого-то» вряд ли посчитают простого «оператора» ИИ. Нужен эксперт. С опытом, кейсами и прочим, что в судах считается важным для подтверждения должной квалификации. То есть пойдете вы не к ИИ-станку, а к конкретному человеку. Возможно, даже к кому-то, кто раньше с ним имел дело, рекомендованному. С репутацией. Даже если и скорость будет человеческая, а не сверх-космическая. В важных-то делах спешка может и не положительная характеристика вообще.
Вот такие вот мысли про роль личности в нашем деле.