Платформа доставки заменяет более ранний инструмент мониторинга чатов на SafeChat+, который может обнаруживать тонкие нюансы и неподходящий контент без подбора конкретных ключевых слов.

DoorDash adds AI to chat feature to detect harassment between workers and customers

Работник службы доставки DoorDash едет на велосипеде по дороге в районе Мишн в Сан-Франциско. hapabapa через Getty Images

Краткое описание:

  • DoorDash добавляет инструмент искусственного интеллекта под названием SafeChat+ в свою чат-программу для обнаружения потенциально оскорбительной или беспокоящей речи в общении между клиентами и работниками на основе приложений, гигант доставки объявил об этом во вторник.
  • В пресс-релизе содержится мало ясности в отношении технических процессов или вида анализа, который SafeChat+ выполняет для просмотра сообщений.
  • SafeChat+ заменяет оригинальный SafeChat, который DoorDash запустил в 2022 году и был основан на менее мощной технологии, основанной в основном на подборе ключевых слов. Новый инструмент может обнаруживать тонкие нюансы и проблемный контент в сообщениях, не полагаясь на соответствие конкретным ключевым словам, что означает, что он может отмечать более широкий спектр потенциально враждебных сообщений, написал DoorDash в электронном письме в Restaurant Dive. 

Подробная информация:

SafeChat+ будет просматривать более 1400 сообщений в минуту, чтобы соответствовать общему объему сообщений, отправляемых через чат-систему DoorDash, но для контроля результатов работы инструмента по-прежнему требуются сотрудники. 

Согласно пресс-релизу, команда DoorDash по доверию и безопасности рассмотрит все сообщения, помеченные SafeChat+, “и предпримет соответствующие действия для обеспечения соблюдения нашей политики, которая строго запрещает любые словесные оскорбления или домогательства”. Компания не ответила на запрос о комментариях о том, скольким сотрудникам будет поручено просматривать все разговоры, помеченные SafeChat+. 

Когда инструмент DoorDash помечает разговор на предмет возможного словесного оскорбления между клиентом и работником, работнику “будет предоставлена возможность быстро отменить заказ, не влияя на рейтинги. Если заказ уже выполнен, функция автоматически завершит любой дальнейший чат, чтобы предотвратить обострение ситуации.” Когда работник использует неподобающие выражения, клиент “может обратиться в службу поддержки через чат или по телефону, чтобы сообщить об инциденте и получить помощь”.

Сам инструмент не просматривает никакой информации о потребителе, только текст, включенный в чат. DoorDash не ответил на запрос о комментариях относительно того, как SafeChat+ определяет, что сообщение является оскорбительным.

Согласно пресс-релизу, SafeChat+ может анализировать десятки языков, включая английский, китайский, французский и испанский. 

DoorDash подчеркнула, что, хотя подавляющее большинство ее поставок осуществляется без каких-либо проблем с безопасностью, словесные оскорбления являются наиболее распространенной проблемой безопасности, с которой сталкиваются ее работники. SafeChat+ дополняет ряд других функций безопасности, добавленных DoorDash для повышения безопасности водителей после того, как небезопасные условия труда помогли стимулировать организацию работников в Нью-Йорке. В 2021 году DoorDash добавила SafeDash, инструмент безопасности, разработанный совместно с ADT, который предоставил работникам кнопку экстренной помощи. Компания добавила напоминания о подсветке крыльца, проверки безопасности и оповещения о безопасности в режиме реального времени в 2022 году, примерно в то же время, когда была развернута более ранняя версия SafeChat.

Рекомендуемое чтение

  • Схема оплаты труда в «DoorDash», сокращающая гибкость для работников Нью-Йорка, Анейрин Кэнэм-Клайн • 6 марта 2024
  • DoorDash на волне продолжающегося роста в сфере доставки еды, Дэн Жуковски • 16 февраля 2024