Как сообщает Рон Алалоуфф, финансируемое из федерального бюджета испытание системы видеонаблюдения в двух домах престарелых в Южной Австралии, где для обнаружения падений и криков использовался искусственный интеллект, за 12 месяцев было зафиксировано более 12 000 ложных инцидентов.
Аудит испытания, проведенный PwC, показал, что технология искусственного интеллекта «еще недостаточно точна для выявления инцидентов в учреждениях по уходу за престарелыми». Далее в нем говорилось, что, хотя точность системы со временем улучшалась (как она и была задумана), она не достигла уровня, приемлемого для персонала и руководства.
В отчете об испытании на сумму 785 000 австралийских долларов (около 29,5 млн российских рублей) было обнаружено, что в последние месяцы испытания, персонал не мог реагировать на каждое предупреждение, в результате чего был по крайней мере один случай, когда персонал не реагировал на фактическое падение.
Система наблюдения с искусственным интеллектом была разработана для захвата видео и аудио и оповещения персонала при обнаружении чрезмерных звуков или движений. Но это ошибочно вызывало оповещения, когда персонал приседал или наклонялся, чтобы заботиться о жителях.
Видео и аудио запись
Система наблюдения, использовавшаяся в ходе судебного разбирательства, состояла из камер и аудиоустройств со встроенной записью, запрограммированных искусственным интеллектом для обнаружения определенных движений и звуков, включая падения, призывы о помощи или крики, и независимого удаленного центра наблюдения, где операторы не могли постоянно следить за картинками на мониторах, но которые связываются с персоналом по уходу с помощью текстовых оповещений об инцидентах. В местах общего пользования (внутри и снаружи) и в спальнях жильцов были установлены камеры и аудиорегистраторы. Камеры и записывающие устройства в спальнях использовались только с согласия отдельных жильцов.
Система предусматривает, что при обнаружении события фиксируются 90 секунд до события и пять минут после него. Отснятый материал хранится в течение 60 дней, после чего он передается в систему сетевого хранения, где хранится в течение семи лет, обеспечивая контрольный журнал для всех полученных предупреждений.
Испытание включало четырехмесячный этап ввода в эксплуатацию для калибровки системы. В ходе пилотного исследования было внесено несколько корректировок, в том числе:
- Уменьшение чувствительности устройств звукозаписи в связи с высоким уровнем окружающего шума.
- Непрерывное обучение и тестирование системы, в том числе присутствие поставщика технологий на месте для демонстрации движений, которые система может обнаруживать и учиться на них.
- Установка дополнительных камер для уменьшения слепых зон
- Серия технологических исправлений, помогающих ИИ отличать неодушевленные предметы (например, пальто, накинутое на стул) от людей, а также улучшать алгоритм ИИ для повышения точности.
Аудит показал, что количество ложных срабатываний на объектах было неожиданным и неприемлемым для персонала. Количество ложных срабатываний в первые несколько месяцев пилотного исследования означало, что персонал на обоих объектах был перегружен рабочей нагрузкой, связанной с реагированием на предупреждения.
В последние месяцы исследования персонал уже не мог реагировать на каждое оповещение. Был как минимум один случай, когда персонал не отреагировал на предупреждение, которое оказалось настоящим падением.
ИИ «повзрослел» во время испытаний
Несмотря на большое количество ложных срабатываний, система достаточно отработана, чтобы выявлять некоторые реальные происшествия, в том числе падения жильцов. За последние три месяца исследования (январь-март 2022 г.) 22% фактических событий были обнаружены с помощью технологии видеонаблюдения (по сравнению с менее чем двумя процентами в период с июля по декабрь 2021 г.).
В отчете было обнаружено, что на осуществимость системы повлиял ряд аспектов ухода за больными, в том числе:
- Поведение жильцов: например, те, кто физически активен в своих комнатах, и те, кто часто и громко кричит, с большей вероятностью будут обнаружены.
- Количество людей в пространстве: несколько человек в пространстве влияют на способность ИИ точно обнаруживать предварительно запрограммированные движения и звуки, например, когда тело сотрудника закрывает обзор камеры.
- Факторы окружающей среды: минимальное количество мебели и беспорядок в комнате, вероятно, уменьшат количество предупреждений, в то время как повышенный беспорядок, мебель или перемещение мебели, вероятно, приведут к большему количеству предупреждений.
В отчете сделан вывод о том, что система видеонаблюдения не оказала ни отрицательного, ни положительного влияния на качество и безопасность, обеспечиваемые на объектах. В нем говорится: «Мы можем ожидать увеличения цифровизации ухода за больными по месту жительства, и важно извлечь уроки из испытаний, таких как пилотный проект CCTV, чтобы определить, какую роль должны играть технологии, и как и когда это будет уместно для поддержки качества и безопасности в интернатном уходе. Хотя пилотный проект не оправдал возложенных на него надежд, есть много экспериментальных идей, которые могут помочь правительствам и сектору ухода за престарелыми в Австралии, когда они рассматривают возможность использования технологий наблюдения в учреждениях по уходу за престарелыми».
