Искусственный интеллект — в центре внимания ПМЭФ-2025

🤖 Искусственный интеллект в критичных сферах стал одной из главных тем ПМЭФ-2025. Сегодня ИИ активно применяется в медицине, образовании и автоматизации госуслуг. Однако, чем шире использование технологий, тем важнее разработка правил и контроля.

В медицине ИИ помогает ставить диагнозы по снимкам КТ и МРТ, прогнозировать риски заболеваний, ускорять расшифровку анализов и подбирать индивидуальные схемы лечения. Кроме того, в образовании ИИ автоматизирует проверку заданий, формирует индивидуальные траектории обучения и отвечает на вопросы студентов.

В социальной сфере чат-боты ведут приём обращений, алгоритмы отбирают заявки, а ИИ участвует в судебной аналитике. Однако есть важный нюанс: ИИ не всегда отличает истину от ошибки, что приводит к риску «галлюцинаций» — когда система генерирует неверную или вымышленную информацию.

Например, в марте 2023 года Bloomberg сообщил о случае, когда ИИ в одной из клиник США «придумал» протокол терапии, ссылаясь на несуществующую публикацию. Ошибку выявили врачи, но только спустя три дня, что могло иметь серьёзные последствия.

Таким образом, ИИ — мощный инструмент, но без прозрачности и регулирования его применение в критичных сферах может быть опасным. Чтобы минимизировать риски, необходимо:

Прозрачность алгоритмов, особенно в здравоохранении и образовании.

Регулирование на отраслевом уровне с лицензированием и экспертизой;

Обязательное участие человека в принятии решений;

Метки достоверности данных и источников;

900+ роботов и Центр №1 в России — почему всё начинается в Татарстане