Как показывает анализ и моделирование, проведенные учеными ИМИСС МГУ под руководством академика В. А. Садовничего, технологический прогресс является ключевым фактором в экономическом и социальном развитии человеческой цивилизации. Сегодня этот прогресс базируется на цифровых технологиях, в частности на искусственном интеллекте (ИИ), зависит от выстраивания отношений между человеком и ИИ. В докладе рассматриваются проблемы создания и распространения знаний в современном обществе. Современные технологии делают знание общедоступным, они резко снижают языковые барьеры и т. д. Одновременно, опасности ложного знания, манипулирования сознанием людей стали намного более весомыми в эпоху массмедиа, а затем интернета. Сегодня ситуация обострилась благодаря технологиям искусственного интеллекта. Используя уже накопленные человечеством знания, искусственный интеллект порождает новое «знание». Это новое знание может быть как полезным для человека, так и не соответствующим человеческим требованиям честности, морали, авторского права и т. д. и даже смертельно опасным. В докладе приводятся важные недавние примеры продуктивного применения технологий искусственного интеллекта, опасностей, реализовавшихся благодаря использованию таких технологий. Обсуждается подход «Ковчега знаний МГУ» - профессионального коллективного создания и авторитетного сопровождения знаний, который позволяет реализовать возможности указанных технологий и избежать опасностей.