Если мы передаем трудную и скучную работу автоматике, мы сами забываем как ее делать

Ученые рассмотрели риски, к которым приводит автоматизация многих процессов, особенно в связи с внедрением ИИ. Как показало исследование, автоматизация рабочих процессов часто приводит к утрате навыков у сотрудников, и отказ или сбой автоматизированных устройств и программных инструментов, может сделать работу практически невозможной. Навыки надо сохранять, чтобы подстраховать автоматику и ИИ. Что происходит, когда мы передаем скучную, но важную работу автоматам? Мы забываем, как ее делать Unsplash Главной целью автоматизации, в том числе робототехники и ИИ, давно была названа возможность освободить человека от трех D — dirty, dangerous and difficult — грязной, опасной, трудной — работы. Но отказ от такой работы ведет к утрате навыков у человека, которые могут быть критически важны при сбое автоматики. Кто все это должен уметь делать.

В 2009 году самолет Air France упал в океан. Все погибли. Система автопилота самолета отключилась, и пилоты, полагаясь на своего компьютеризированного помощника, не смогли исправить ситуацию вручную.

В 2015 году водитель автобуса в Европе ввел в свое GPS-устройство неверный пункт назначения и, не обратив на это внимания, повез группу бельгийских туристов в объезд на 1200 километров.

В 2017 году прокуроры США согласились освободить подростка под испытательный срок, но внезапно изменили свое решение, поскольку алгоритм оценки решений пришел к выводу, что обвиняемый представляет «высокую степень риска» для общества. Правда, решение, позже было отменено при апелляции.

Это примеры, но они далеко не единичны. Когда мы передаем когнитивные задачи технологиям (например, управление самолетом, навигация или вынесение приговоров), мы можем потерять способность выполнять эти задачи самостоятельно.

Поскольку новые технологии искусственного интеллекта обещают автоматизировать все больше видов деятельности, растет риск «эрозии навыков». Новое исследование международной группы ученых показывает, как это может произойти, и предлагает способы сохранения необходимый опыта, даже если он не нужен каждый день.

Эрозия навыков

Слайд IBM 1979 год. «Компьютер не может нести ответственность. Поэтому компьютер никогда не должен принимать управленческие решения». Слайд IBM , 1979 год.https://theconversation.com/what-happens-when-we-outsource-boring-but-important-work-to-ai-research-shows-we-forget-how-to-do-it-ourselves-223981

Исследование показало, что эрозию навыков можно не заметить. Ученые приводят такой пример. Компания прекратила использовать программное обеспечение, которое автоматизировало большую часть ее службы учета основных средств. Это решение было связано с отмеченной ошибкой ПО. Но без этого программного инструмента бухгалтеры не справились с задачей. Годы использования программного обеспечения подорвали их опыт, и, в конечном счете, им пришлось восстанавливать утраченные навыки учета основных средств едва ли не с нуля.

Хотя программное обеспечение было основано на строгом своде инструкций (оно не использовало машинное обучение или ИИ), оно было достаточно «умным», чтобы отслеживать амортизацию и составлять отчеты для налоговых и финансовых целей. Эти задачи бухгалтеры-люди посчитали очень сложными и утомительными, и перестали совершенствовать собственные навыки в этой работе.

Компания узнала об эрозии навыков у своих проверенных годами, опытных сотрудников только после того, как клиент обнаружил ошибки в ручных отчетах бухгалтерии. В конечном счете от ручного учета компания отказалась, и поставщик программного обеспечения исправил замеченные ошибки. Но никто в компании не может оценить, насколько корректно работает новое ПО.

Как происходит эрозия навыков

Навык ориентирования по картам тоже постепенно утрачивается. Навык ориентирования по картам тоже постепенно утрачивается.Unsplash

Старая поговорка «используй или потеряешь» применима как к когнитивно интенсивной работе, так и ко всему остальному. Бухгалтеры стали жертвой «самоуспокоенности в области автоматизации». Они были уверены, что «все хорошо», игнорируя при этом потенциальные риски.

Это имело три основных последствия:

  1. они потеряли понимание того, что делает автоматизация,
  2. они потеряли стимул поддерживать и обновлять собственные знания (например, налоговое законодательство), поскольку поставщик и программное обеспечение сделали это за них,
  3. поскольку программное обеспечение было надежным, они больше не утруждали себя проверкой исходящих отчетов на точность.

Как сохранить свои навыки

Как предотвратить самоуспокоенность при использовании ИИ и других автоматизированных систем? Ученые дают три главных совета:

  1. обратите внимание на то, что делает система: какие входные данные используются и что может повлиять на выводы и результаты работы системы,
  2. поддерживайте свою компетентность на современном уровне (особенно если вы несете юридическую ответственность за результаты),
  3. критически оценивайте результаты, даже если они кажутся удовлетворительными,

Как это будет выглядеть на практике? Вот повседневный пример: вождение с помощью навигационного приложения на базе искусственного интеллекта. Вместо того чтобы слепо следовать инструкциям приложения, обращайте внимание на дорожные знаки и ориентиры и осознавайте, что вы делаете, даже под руководством приложения.

Изучите карту и предлагаемый маршрут перед поездкой, чтобы расширить свои «знания предметной области» и понимание того, что находится вокруг маршрута. Это поможет вам связать ваш конкретный путь с более широкой средой, что будет полезно, если вы заблудитесь или захотите найти альтернативные маршруты.

Достигнув пункта назначения, подумайте о маршруте, предложенном приложением: был ли он быстрым, безопасным, приятным? Если нет, в следующий раз подумайте о том, чтобы выбрать другой маршрут, даже если приложение предлагает иное.

Является ли ИИ необходимым?

Случай с бухгалтерской фирмой поднимает более серьезный вопрос: какие навыки актуальны и заслуживают сохранения и в каких случаях нам следует отказаться от автоматизации?

Универсального ответа не существует, поскольку профессиональные навыки меняются со временем в зависимости от юрисдикции, отрасли, культуры и географического положения. Однако с этим вопросом нам придется столкнуться, поскольку ИИ возьмет на себя функции, которые раньше считались не поддающимися автоматизации.

Несмотря на трудности, с которыми они столкнулись, бухгалтеры в приведенном примере считают, что автоматизированное программное обеспечение очень полезно. По нельзя допустить, чтобы самоуспокоенность застала команду врасплох.

ИИ и работа людей widget-interest

8 профессий, которые не сможет заменить ИИ (пока)

 

Роботы не лишают людей рабочих мест, а создают новые

В мире, ориентированном на эффективность и достижение годовых или квартальных целей, организации отдают предпочтение решениям, которые улучшают ситуацию в

краткосрочной перспективе, даже если они имеют негативные долгосрочные побочные эффекты. Именно это произошло в случае с бухгалтерским учетом: повышение эффективности от внедрения ПО отодвинуло далеко в сторону опасения по поводу утраты опыта, что и привело к тяжелым последствиям.

Это не означает, что нам следует избегать ИИ. Организации не могут позволить себе упустить возможности, которые предоставляет искусственный интеллект. Однако всегда следует осознавать риск эрозии навыков.

Источник
Комментарии 0
Оцените статью
WARHEAD.SU
Добавить комментарий