AI-диктовка на работе: как LLM меняют ввод текста вместо клавиатуры
Использование больших языковых моделей упростило диктовочному ПО быстрый вывод более качественных результатов. Достаточно ли этого, чтобы технология стала обычным инструментом в офисе?
Для сотрудников, которые проводят по несколько часов в день, общаясь с разными AI-ассистентами, набор промптов на клавиатуре быстро становится рутиной.
«Будь то задача по coding, помощь в написании документа или размышления о стратегии — просто очень много набора текста, набора текста и еще раз набора текста как части этого процесса», — сказал Chris Patalano, chief technology officer в Thumbtack, онлайн-маркетплейсе профессиональных услуг.
С учетом этого Паталано и другие старшие коллеги в прошлом году начали экспериментировать с новыми способами взаимодействия с AI-системами внутри Thumbtack. Идея заключалась в том, чтобы протестировать AI-assisted диктовочные инструменты, разработанные стартапами Monologue, Superwhisper, Willow Voice и Wispr.
В отличие от предыдущих поколений диктовочных приложений, которые стремились выдавать дословную расшифровку, новые инструменты опираются на large language models (LLMs), чтобы создавать отредактированный и выверенный текст. Компании, стоящие за ними, утверждают, что пользователи могут создавать текст в несколько раз быстрее, чем при печати, и с большей точностью, чем голосовые инструменты, встроенные в другие приложения.
Это вызвало новый интерес к использованию голосовых запросов для выполнения рутинных задач на рабочем месте.
После того как один из ведущих инженеров Thumbtack предложил Wispr Flow, Паталано запустил небольшой пилот с несколькими коллегами на протяжении пары месяцев. Пилот оказался успешным, и теперь Wispr Flow доступен более чем 200 сотрудникам IT и engineering; они используют его для разных задач, включая взаимодействие с AI-ассистентами и черновики сообщений в Slack для коллег.
Хотя Паталано сказал, что для некоторых приложений он по-прежнему предпочитает печатать, AI-диктовка Wispr Flow стала частью его ежедневного рабочего процесса. «Это становится основным интерфейсом, который у меня есть для любых AI-инструментов. Это просто намного эффективнее и продуктивнее, чем печатать», — сказал он.
«Я использовал это, чтобы помогать себе собирать прототипы, изучать code base, прояснять собственную техническую стратегию. Я использовал это для аналитики по наборам данных — даже для очень конкретных, точечных вещей вроде: “Что мне нужно обязательно внести в мой список дел на этой неделе?”»
Новое поколение диктовочных инструментов
ПО, которое преобразует произнесенные слова в текст, не ново для рабочего места. Speech-to-text инструменты существуют в разных формах уже десятилетиями. Первый пример относится к 1952 году, когда Bell Labs создала Audrey — систему, которую широко считают первой автоматической системой распознавания речи. (Audrey могла распознавать произнесенные цифры 0–9 с точностью 90%, когда ею пользовался разработчик машины HK Davis.)
Коммерческие продукты появились в 1980-х, а более широкое распространение получили в 1990-х благодаря софту вроде Dragon Dictate. Это были специализированные — и дорогие — приложения с ограниченной функциональностью, которые интересовали в основном профессионалов, для которых диктовка уже была частью рабочего процесса, например врачей и юристов, а не широкий круг офисных сотрудников.
В последние годы speech-to-text софт стал доступнее, особенно после интеграции распознавания речи в смартфоны и компьютеры Apple, Google, Microsoft и других. Deep learning также существенно повысил точность.
Это сделало голосовой ввод более распространенным на рабочем месте и важным инструментом доступности для людей, которым трудно печатать, — хотя системы по-прежнему могут быть «довольно хрупкими», сказал Benjamin Cowan, профессор School of Information and Communication Studies в University College Dublin. Особенно это касалось ранних технологий голосового ввода.
«Они не просто постоянно ошибались, они записывали все, что вы говорили, — даже если вам этого не хотелось», — сказал он. «Из-за этого после диктовки приходилось тратить много времени на редактирование заметок».
Теперь несколько стартапов, предлагающих AI-диктовку, включая Wispr, стремятся сделать голос полноценной альтернативой печати для повседневных компьютерных задач. Ключевое отличие от более ранних версий инструментов — использование AI-моделей для редактирования текста почти в реальном времени, с удалением запинок вроде «umms», «ahhs» и слов-паразитов, чтобы получить выверенное предложение.
Whispr Flow snippets
В большинстве случаев пользователь может вызвать AI-диктовочный инструмент в мобильных и настольных приложениях с текстовым полем — будь то редактор документов, почтовый клиент, vibe-coding приложение или что-то еще — удерживая назначенную клавишу или кнопку во время речи. Пользователь может добавлять слова в словарь приложения, чтобы оно распознавало редкие имена, аббревиатуры и отраслевой жаргон.
«Само качество технологии улучшилось кардинально» по сравнению с предыдущими инструментами, которые пытались дословно транскрибировать речь и могли раздражающе ошибаться, сказала Maria Bell, senior research analyst в CCS Insight.
«Эти современные системы гораздо более контекстные; они понимают ваше намерение, помогают структурировать мысли и переписывают текст, пока вы говорите. Они работают скорее как writing assistants, а не просто как диктовка».
Wispr — один из самых хорошо финансируемых стартапов на рынке, который на данный момент привлек $81 million. В мае Bloomberg сообщил, что компания вела переговоры о привлечении еще $260 million при оценке в $2 billion. Другие вендоры тоже привлекли инвесторов: Willow Voice объявила о раунде на $4.2 million в прошлом году.
Обычно софт предлагается по freemium-модели: бесплатный уровень дает базовую функциональность и ограничения по использованию, а также есть платные premium-версии. Superwhisper Pro стоит $8.49 за пользователя в месяц; Willow Voice Team Pro и Individual Pro — $10 и $12 за пользователя в месяц соответственно; Wispr Flow Pro стоит $12 за пользователя в месяц. Публичной enterprise-цены у этих вендоров нет.
Крупные технологические компании тоже инвестируют в AI-assisted голосовые функции. Apple, например, недавно анонсировала AI-powered диктовку для обновленного AI-ассистента Siri, а Google встраивает аналогичную функцию в клавиатуру Gboard на Android. Google также разрабатывает отдельный AI-диктовочный инструмент — Edge Eloquent, — хотя его подход отличается от стартапов в этой области, поскольку инструмент не работает между отдельными приложениями.
Зачем нужна AI-диктовка?
Главное обещание AI-диктовки — рост words-per-minute (wpm) у knowledge worker по сравнению с печатью.
По данным Superwhisper, большинство офисных работников печатают на клавиатуре от 40 до 70 слов в минуту, хотя некоторые могут быть значительно быстрее. (New York Times сообщил, что скорость его журналистов варьируется от 36 до 134 wpm, согласно Times материалу ранее в этом году.) Люди говорят гораздо быстрее — со скоростью 160–180 wpm, а вендоры AI-диктовки обещают низкую задержку, чтобы преобразовывать речь в отредактированный текст (обычно менее секунды; некоторые заявляют о показателе ниже 200 миллисекунд).
Дело не только в скорости: Willow Voice, например, утверждает, что ее приложение в три раза точнее, чем диктовочные инструменты, встроенные в другие приложения.
Перспектива ускорить рутинные задачи письма и коммуникации очевидно привлекательна, особенно на фоне того, что AI, похоже, увеличивает, а не снижает нагрузку на офисных сотрудников. «У всех нас есть ощущение, что мы работаем быстрее — нам нужно делать больше за меньшее время», — сказала Bell.
«Сотрудники перегружены коммуникационной работой, и они тратят огромное количество времени каждый день на написание писем, сообщения коллегам, работу с generative AI», — сказала она. «Голосовые инструменты привлекательны, потому что кому-то кажется, что так можно работать быстрее. Это снижает трение во всех задачах, которые от них требуют».
По словам Cowan, технология потенциально подходит для самых разных профессий — не только для тех, где нужна диктовка, — помогая с задачами вроде составления списков дел и документов, а также отправки сообщений и писем.
Важна и доступность. «Эти диктовочные инструменты также означают, что люди, которым трудно печатать или которые не могут печатать вовсе, теперь получили гораздо лучшие приложения, помогающие им писать», — сказал Cowan.
Что тормозит технологию?
Несмотря на потенциальные преимущества, идея целый день говорить с ноутбуком или смартфоном может нравиться далеко не всем, особенно в шумном офисе.
«Кому-то это может показаться неловким или некомфортным, люди будут бояться отвлекать коллег или создавать помехи», — сказала Bell. «Это по-прежнему серьезный поведенческий барьер, который нужно преодолеть».
«Технология готова, но, возможно, рабочий этикет и культура еще не совсем готовы», — добавила она.
Работая удаленно, Паталано сказал, что он и его команда могут обходить часть этой неловкости. Но и к голосовому вводу им тоже пришлось привыкать.
«Поскольку мы полностью работаем удаленно, у нас нет проблемы, когда все сидят бок о бок в офисе и разговаривают со своими компьютерами, что, как я подозреваю, было бы сложнее. Но даже привыкнуть говорить вслух в одиночестве в комнате заняло какое-то время», — сказал он.
Как и с любым AI-инструментом, остается вопрос точности.
Даже если вендоры обещают низкий уровень ошибок, результаты LLM все равно могут содержать ошибки, и пользователям приходится проверять итог. «Они все еще могут неправильно распознать сказанное», — сказал Cowan. Тем, кто работает в высокорисковых сферах, например в здравоохранении, по-прежнему нужно просматривать отредактированный AI текст и «перепроверять и еще раз перепроверять» диктовку.
Это означает дополнительные шаги для пользователя, работающего с такой технологией.
Немногое может оттолкнуть сотрудников от внедрения нового инструмента, сказал Jon Arnold, research analyst в J Arnold & Associates. «Есть много сценариев, где это может дать большую ценность, но вам нужно доверять инструменту — если он не дает того, что вы ожидаете, вы либо будете его донастраивать, либо вернетесь к клавиатуре и сделаете все по-старому», — сказал он.
Есть и вопросы приватности. Поскольку некоторые инструменты отправляют голосовые данные в cloud для обработки, организации в жестко регулируемых отраслях, таких как финансы, здравоохранение и государственный сектор, могут двигаться осторожно.
Bell указывает на два типа приватности: социальную, например «когда коллеги слышат, что вы говорите», и digital privacy, которая связана с тем, кто еще может получить доступ к данным разговора.
Поставщики приложений используют разные подходы: некоторые обрабатывают голосовые данные на устройстве, другие отправляют их в cloud. Для организаций со строгими требованиями к защите данных это важное различие, сказала Bell.
«Где обрабатываются голосовые данные? Где они хранятся? Кто может к ним получить доступ? Enterprises очень, очень внимательно относятся к governance, data security и data privacy», — сказала она.
Пока рано списывать клавиатуру?
Несмотря на растущий интерес к технологии, пока неясно, выберет ли большое число работников разговор вместо печати. И еще предстоит понять, смогут ли стартапы, предлагающие best-of-breed AI-диктовку, добиться traction, или же исчезнут, если технология просто встроится в software ecosystems крупных техкомпаний.
Сотрудники лучше знакомы с голосовыми технологиями благодаря AI-ассистентам в смартфонах и умных колонках дома. По словам Bell, это может улучшить перспективы более широкого использования в бизнес-среде.
«Голосовое взаимодействие уже не кажется таким нишевым, как пять лет назад», — сказала она. «В целом технология быстро улучшается…, но по-настоящему успех мы определим по тому, сможем ли мы изменить человеческое поведение».
Arnold настроен оптимистично по отношению к использованию голосовых технологий на работе: «Через пять или 10 лет [отныне] мы даже не будем об этом задумываться. Это просто станет нормой».
Bell осторожнее. Она видит потенциал AI-диктовки как вспомогательного инструмента для коммуникационно-насыщенной работы. «Я не думаю, что она заменит клавиатуру, но думаю, что она может стать вторым интерфейсом», — сказала она.
Даже Паталано не считает, что AI-assisted голосовая диктовка полностью заменит печать. «Ваш устный голос и ваш письменный голос всегда будут в какой-то степени различаться, и это нормально: вероятно, нам стоит это принять», — сказал он.
«Я думаю, что всегда будет место для wordsmithing, crafting, writing — и то же самое с coding. Будет много случаев, когда каждое слово имеет значение».
Он планирует продолжать использовать AI-диктовку — с Wispr Flow или с другими похожими инструментами, которые могут появиться в будущем.
Хотя в прошлом внедрение тормозила нехватка точности, дальнейшие улучшения могут открыть путь к более широкому использованию в рабочих процессах.
«Когда я пытаюсь использовать голосовой инструмент, и он ошибается хотя бы один раз, я обычно просто опускаю руки и ухожу, потому что цена исправления намного выше, чем выгода по сравнению с печатью», — сказал Паталано. «Но, особенно с улучшениями в LLM и AI-моделях в целом, точность этих инструментов будет становиться все лучше и лучше».
«Я уже ищу все больше возможностей использовать голос вместо набора текста».
Материал — перевод статьи с английского.
Оригинал: Talk, talk, talk: The rise of AI dictation tools at work