ПРОБЛЕМА ЭРГОНОМИЧЕСКОЙ ОЦЕНКИ ЭВОЛЮЦИОНИРУЮЩИХ СОЦИОТЕХНИЧЕСКИХ СИСТЕМ С ИСКУССТВЕННЫМ ИНТЕЛЛЕКТОМ
Аннотация и ключевые слова
Аннотация (русский):
Эволюция техногенного мира, развитие сетевых и киберфизических систем включают механизмы социально-средовой самоорганизации за счет трансформации человеческого опыта в рамках циклов аутопоэтической самоорганизации техносреды. На этапах формирования и реализации технического проекта важную роль в создания новых форм социотехнических систем технологии искусственного интеллекта) играет принятая разработчиками концепция включения механизмов самоорганизации и развития системы, связанная с методологией оценки эргономических свойств создаваемых систем. Эргономическая оценка играет особую гармонизирующую и корректирующую роль при создании человеко-машинных социотехнических систем. Показано определяющее значение в формировании эргономической оценки социотехнических систем механизмов редукции, которые определяют эволюцию данных систем в требуемом направлении. Социотехническая система с искусственным интеллектом априорно не имеет заранее всех известных и понятных авторам и пользователям свойств, их она проявляет только в рабочем контексте, что не позволяет применять привычные методы эргономической оценки, используемые при оценке постоянных качеств социотехнической системы. по отношению к человеку-пользователю. Отмечена особая роль симбиотических отношений в поддержании эффективной работы социотехнических систем с распределенным искусственным интеллектом. Рассматриваются процессы когеренции-декогеренции, влияющие на смену форм организованной сложности, определяющие жизнеспособность системы в среде. Поставлена проблема энактивации порождаемых технологиями элементов техносреды в эволюционирующую часть социотехнической системы. На примере сети интернет показано, что свободная эволюция техносреды связанная с избыточным информационным многообразием социальной компоненты сети ведет к ускорению ее эволюции, но снижает ее социальную устойчивость и стабильность. Подчеркивается крайняя опасность тотальной цифровизации.

Ключевые слова:
социотехническая система, искусственный интеллект, самоорганизация, эволюция, циклы аутопоэтического воплощения, эргономика, цифровизация, оценка социальных систем
Текст
Текст произведения (PDF): Читать Скачать

Введение

 

Интенсивное развитие техногенной среды человеческой цивилизации наблюдаемое в последние десятилетия, сопровождается ростом сложности ее составляющих (технологий, гаджетов, машин и механизмов), объединяющихся в сетевые структуры, управляемые с помощью технологий искусственного интеллекта, Это ведет к развитию глобального эволюционирующего планетарного технобиотического единства [1], которое проявляет свойства самоорганизации и саморазвития присущие в своем системном базисе только живым организмам и социуму.

Основным механизмом, вызывающим процессы глобальной самоорганизации и конституирования новой системной сущности техногенной цивилизации, становится электронная коммуникация, формирующая виртуальные интерфейсы, которые связывают пользователей с искусственными мирами разной степени виртуальности [2].

Участниками социальных сетевых коммуникаций становятся не только люди, но и искусственные интеллектуальные системы и агенты, в том числе мобильные роботы и «умные среды». Возникают гибридные и искусственные социотехнические системы эволюционирующего типа. Идет развитие сетевого сложностного мира, в логике функционирования которого особую роль играет коммуникация наблюдателей, в том числе и искусственных агентов, формирующих цифровую динамическую копию мира. Вероятностный, квантовоподобный характер взаимодействий в возникающей техно-биотической среде самоорганизующегося мира включает механизмы когерентности и декогерентности обеспечивающие возникновение и распад сложных форм организации техносреды. «Технологически выстраивается человекомерный сетецентричный сценарий эволюции антропотехносферы» [3, с. 55]. Возникает мир организованной сложности, проявляющейся в интенсивном развитии и внедрении во все сферы человеческой деятельности компьютерных технологий управления и контроля.

 

1. Теоретико-методологические проблемы эволюции техносреды

 

1.1. Разработка методологии и методик формирования техногенной среды.

Меняется методология исследования и проектирования артефактов техногенной среды. Активная роль технологий искусственного интеллекта при решении задач проектирования смещает акцент с определяющей роли человека при проектировании техносреды на кооперативные и взаимоориентирующие взаимодействия с интеллектуальной средой. Эти взаимодействия осуществляются в системах автоматизированного проектирования включающих интерфейсы виртуальной реальности. Деятельность проектировщика в виртуальной среде моделируемой реальности, позволяет эффективно воплощать творческие возможности человека в создаваемый продукт.

Старые механистические представления о конструировании как совместной реализации алгоритма выполнения инженерного проекта, сменяют холистические модели и концепции, отражающие сложность мира в процессе аутопоэтической самоорганизации среды. Развитие киберфизических технологий и сетевых систем машинного проектирования, внедрение промышленных роботов и средств автоматизации привносят новые технологические и производственные возможности создания сложной техногенной среды. Возникает распределенная технологическая социотехническая среда, порождающая элементное разнообразие компонентов из которых создаются новые машины и механизмы. Разработчик сложной системы не может быть вне процесса эволюции среды проектирования и, подчиняясь логике ее развития, придает ей требуемые свойства, но при этом он часто не понимает латентных стратегических целей и направления развития создаваемой системы, не осознает последствий возможного в будущем негативного влияния на человека результатов ее функционирования в том числе (как следствий возникающих самоорганизующихся элементов техносреды). Использование симбиотических форм взаимодействия человека и интеллектуальной среды проектирования [4] требует новых подходов для создания эффективных социотехнических систем.

В качестве варианта включения человека в процессы проектирования некоторыми авторами предлагаются «технологии воображения», под которыми понимаются методы, позволяющие пользователям обсуждать потенциальные социотехнические миры с разных точек зрения, представляя, каким образом развитие новых технологий, может повлиять на их жизнь и на будущее общества в целом [5, c. 233]. По мнению Е.Г. Гребенщиковой, в проектировании будущего особую роль играют социотехнические мнимости – ментальные конструкции настоящего и будущего науки и технологий, в которых постулируется развитие социальных технологий, ориентированных на проактивный подход, упреждающее управление, открытость к критике, включение социальных акторов в обсуждение потенциальных социотехнических миров [6]. Применительно к проектировочной деятельности можно говорить о появлении в проектной организации гибридной технокультурной среды, определяющей эффективность деятельности проектного коллектива.

Проектирование локально в пространстве и распределено во времени. Важен процесс селективной энактивации проекта в техногенную эволюционирующую среду, которая может быть и не готова к внедрению новшеств содержащих потенциальную опасность для человеческих элементов техно-социального организма.

 

1.2. Социотехнические системы: роль оценки в циклах самоорганизации

Особую роль при создании рассматриваемых нами социотехнических систем играют вопросы симбиотического взаимополезного объединения человека и техники в рамках эволюционирующей техносреды.

Социотехническая система – это динамический самоорганизующийся элемент гибридной техногенной среды, возникающий и развивающийся в результате взаимодействия и коммуникации человека, технической инфраструктуры и технологии. Данный термин был предложен в 1960 годах Эриком Тристом и Фредом Эмери, работавшими консультантами в Тавистокском институте человеческих отношений [7]. Примерами таких техно-социальных организмов являются аэропорты, энергетические, транспортные и другие системы, содержащие и реализующие компьютеризированные сетевые формы циклической коммуникации, в которых осуществляется групповая деятельность членов трудового коллектива.

В настоящее время в социотехнических системах используют технологии искусственного интеллекта, позволяющие оптимизировать внутрисистемные процессы функционирования за счет автоматизации работы с большими данными и типовыми процедурами. Однако возникают проблемы обеспечения эффективного и комфортного взаимодействия человека с самоорганизующейся коммуникативной техносредой, эволюция и аутопоэзис которой может приводить к появлению стрессогенных и деструктивных состояний у пользователей и акторов.

Особую гармонизирующую и корректирующую роль при создании человеко-машинных социотехнических систем играет эргономическая оценка, которая осуществляется в процессе эргономической экспертизы, производимой на разных этапах проектирования и эксплуатации. Социотехническая система с искусственным интеллектом априорно не имеет заранее заданных, четко известных и понятных авторам и пользователям свойств, их она проявляет только в рабочем контексте, что не позволяет применять привычные методы эргономической оценки, используемые при постоянных качествах социотехнической системы по отношению к человеку-пользователю). Они могут меняться на разных этапах развития социотехнической системы и проявляются лишь в формах доступных для интерпретации наблюдателем. Будучи комплексной междисциплинарной процедурой, эргономическая оценка осуществляется только человеком-экспертом, который включает в нее элементы творчества, эстетики, группового и индивидуального профессионального опыта.

В сущности, любая субъективная оценка, создаваемая человеком, есть попытка редукции его опыта, суть и форма редукции реальности осуществляемой сознанием (которая сама есть форма редукции, осуществляемой механизмами сознания), а оценка объективная – результат обработки редуцированных данных в информационной системе. И та и другая оценки являются формами статистической оценки, обработки и оптимизации данных.

Оценка всегда связана с измерением и интерпретацией. Последняя отражает динамическую картину мира проектировщика и в значительной мере субъективна. Попытки автоматизации процессов формирования интерпретаций с помощью алгоритмов искусственного интеллекта возлагают на технологии обработки больших данных и глубокого обучения [8]. Однако замена естественного интеллекта его техническим аналогом искусственным интеллектом в настоящее время невозможны в силу различия их природы – активной, но вероятностной у человека и пассивной, но детерминированной у компьютерной системы несмотря на их принципиально общую информационную основу [9-11]. Сходной позиции придерживается В.А. Лекторский, опираясь на принципы постнеклассической рациональности и своего рода процессуальной метафизики, исходящей из того, что вещи и иные предметности могут и должны быть поняты как своеобразные сгустки процессов [12].

При проведении оценки чего-либо люди традиционно пытаются реализовать принцип объективности, который требует исключения из нее субъективности. Вместе с тем измерение и оценка есть всегда процесс редукции осуществляемой наблюдателем, в роли которого выступает человек, делающий различение. Порождение моделей мира является основной функцией сознания, которое пытается создать и проверить в субъективной форме самые эффективные и минимальные модели реальности [13].

Наиболее часто при проектировании используется математика как дисциплина, работающая с объектами и моделями, полученными в результате формализации результатов редукции, но при этом огромную роль играют интуиция и опыт разработчика. Каждое новое состояние социотехнической системы также является результатом непрерывной редукции ее прошлых состояний, моделей и оценок. Циклы «редукция-оценка-коррекция» являются базовыми для всех социотехнических систем.

Наблюдение играет ведущую роль в процедурах оценки (локальных редукциях) и связано с операциями различения, обработки и интерпретации данных преобразующих их в понятный, непротиворечивый результат. При этом квантовая холистическая природа мира вступает в противоречие с конкретными результатами восприятия действительности, представленного в сознании. Разрешение этого противоречия возможно только в рамках социальных отношений и формируемых в них социальных оценок.

Социальная оценка является некоторой целостностью, составленной из редуцированных оценок членов коллектива. В силу аутопоэтического и вероятностно-случайного характера возникающих социальных взаимодействий в коллективе социальная система не может быть редуцирована в некий завершенный объект, так как любое ее описание будет неполным, представляет собой некоторую интерпретацию. Множественная оценка в виде нелинейной суммы единичных редукций ведет к спутанности и реставрации интерпретации как целостности, которая вновь приобретает квазиквантово-механический характер.

Таким образом, проектирование является процессом конструирования некоторой целостности из локальных редукций, создаваемых проектировщиками в процессе совместного труда. Синтез локальных реализаций проекта, приобретает в продукте силу реальности. По мнению В.П. Зинченко возникает геном духовного развития, который циклически совмещает и дополняет реальную и идеальную формы реальности, образуя спираль эволюции [14, c. 338]. Субъект и технология при этом являются инструментом и механизмом превращения редуцированных субъективных форм сознания в реальность (рис. 1.).

 

 

Рис.1 Двойная спираль развития по В.П. Зинченко

Fig.1 The double helix of development according to V.P. Zinchenko

 

 

1.3. Проектирование самооргани-зующихся социотехнических систем

Проектирование – это не только процесс создания, обладающего заданными свойствами продукта, но и множественная оценка его влияния на мир в целом. Любая вещь в реальности бесконечно разнообразнее ее проекта. Это эволюционирующая сложность, растущая из идеальной формы в сознании авторов проекта и реализуемая в многообразии технологических и социальных отношений и форм в реальный продукт.

В 1972 году Остину Рошу (Austin O. Roche), Филу Рэю (Phil Ray) и Джону Фрассанито (John Frassanito) был выдан Патент № 224,415 на создание настольного персонального компьютера Datapoint 2200, что позволяет считать их создателями первого персонального компьютера [15]. Они даже не предполагали сколь эффективную технологию они выпустили в мир, сколь велики оказались последствия сделанного ими для прогресса человечества. Следствием этого стала тотальная компьютеризация всех сфер существования и деятельности человека и независимость от человека самой технической среды. Появились киберфизические системы, основанные на эволюционных принципах развития [16] включающих такие ключевые характеристики:

– независимость функционирования компонентов системы;

– управленческую независимость компонентов системы;

– географическую распределенность;

– развивающееся поведение;

– эволюционирующие процессы развития.

Техника получила возможность повторять информационное поведение человека, создавать цифровую картину мира и изменять его. Эта картина может быть недружественной и опасной для человека.

При проектировании сложных компьютерных и коммуникационных сетей и сред требуется проведение экспертизы влияния глобальных последствий изменений, возникающих в техногенной среде, особенно в ее интерфейсных элементах, обеспечивающих межсистемные отношения и интеграцию человека в технобиотическую среду [17].

Отметим активный характер развития человекомерных систем само существование которых суть непрерывное изменение в процессе которого происходит непрерывное запутывание макроскопических систем и распад систем взаимодействий. Работают механизмы, формирующие систему и ее окружение в форме суперпозиции макросистем – процесс когеренции и разрушающие ее спутанное состояние – процессы декогеренции, в результате которых перед наблюдателем появляются системы классических взаимодействий [18]. Спутанные состояния создают тонкую материю реального мира, а редукция ведет к классическому определенному миру. Вместе с тем только творчество в широком смысле этого слова, интегрирующее разные точки зрения на эволюцию сложной системы, способно преодолеть мертвящую силу редукционизма, препятствующего развитию формируемой версии сложного мира.

 

2. Результаты и заключение

 

 Нужно признать, что эргономическая оценка социотехнических систем возможна только при использовании многомерного анализа, включающего множественный взгляд на систему со стороны внутренних и внешних наблюдателей.

Компьютерный мир всегда порождает цифровые редукции, составленные из наблюдений, и он всегда отличается от реального объекта моделирования. Любая редуцированная форма подчиняется формальным законам и в силу этого приобретает свойство вычислимости и, следовательно, может быть реализована в цифровой форме. Тотальная цифровизация является попыткой редукции реального холистического по своей природе квантовомеханического мира и губительна для последнего.

Интернет превращаясь в динамическую цифровую копию реального мира в своей основе ведет к его уничтожению так как не способен управлять будущим, что свойственно только активным включающим человека системам. Необходимо прекратить тотальную цифровизацию общества, так как это приводит к появлению деструктивных копий мира внешне не отличимых от реальности. Все это ведет к разрушению социальных механизмов самоорганизации, к деградации человеческого общества и вытеснению теряющего моральные и этические ориентиры человека из производительной и творческой деятельности.

Список литературы

1. Сергеев С.Ф. Наука и технология XXI века. Коммуникации и НБИКС-конвергенция. Глобальное будущее 2045. Конвергентные технологии (НБИКС) и трансгуманистическая эволюция. Под ред. Проф. Д.И. Дубровского. М.: ООО «Издательство МБА», 2013. С. 158–168. ISBN 978-5-906325-26-6.

2. Сергеев С.Ф. Рефлексивная автоэволюция глобальных интеллектных техногенных сред. Рефлексивные процессы и управление. Сборник материалов IX Международного симпозиума 17–18 октября 2013 г., Москва / Отв. ред. В.Е. Лепский. М.: «Когито-Центр», 2013. С. 245–248. ISBN 978-5-89353-410-8.

3. Аршинов В.И., Буданов В.Г. Концепция сети в оптике парадигмы синергетической сложностности // Вопросы философии. 2018. № 3. С. 49–58.

4. Сергеев С.Ф. Интеллектные симбионты в эргатических системах // Научно-технический вестник информационных технологий, механики и оптики. 2013. № 2 (84). С. 149–154.

5. Felt U., Schumann S., Schwarz C.G., Strassnig M. Technology of Imagination: A Card-Based Public Engagement Method for Debating Emerging Technologies // Qualitative Research. 2014;14(2):233–251. DOIhttps://doi.org/10.1177/1468794112468468.

6. Гребенщикова Е.Г. Социотехнические мнимости технонауки // Вопросы философии. 2018. № 3. С. 59–67.

7. Emery F., Trist E. The Social Engagement of Social Science, a Tavistock Anthology, Volume 3: A Tavistock Anthology-The Socio-Ecological Perspective. Philadelphia: University of Pennsylvania Press. 1997. DOIhttps://doi.org/10.9783/9781512819069-004.

8. Allen J.F. In Silico Veritas. Data-Mining and Automated Discovery: The Truth Is in There // EMBO Reports. 2001;2:542–544. DOIhttps://doi.org/10.1093/embo-reports/kve139.

9. Дубровский Д.И. Психические явления и мозг. Философский анализ проблемы в связи актуальными задачами нейрофизиологии, психологии и кибернетики. М.: Наука, 1971. 385 с.

10. Дубровский Д.И. Проблема идеального. Субъективная реальность. М.: Канон+, 2002. 366 с. ISBN 5-88373-155-4.

11. Дубровский Д.И. Задача создания общего искусственного интеллекта и проблема сознания // Философские науки. 2021. Т. 64. № 1. С. 13–44. DOIhttps://doi.org/10.30727/0235-1188-2021-64-1-13-44.

12. Лекторский В.А. Комментарий к статье Л. Гараи «Дополнительность теории информации и теории идентичности в науках о человеке» // Вопросы философии. 2019. № 5. С. 124–127. DOIhttps://doi.org/10.31857/S004287440005062-3.

13. Дубровский Д.И. Сознание мозг, искусственный интеллект. М.: Стратегия-Центр, 2007. 263 с. ISBN 978-5-9900934-1-6.

14. Мунипов В.М., Зинченко В.П. Эргономика: человекоориентированное проектирование техники, программных средств и среды. М.: Логос, 2001. 356 с. ISBN 5-94010-043-0.

15. Wood L. Datapoint: The Lost Story of the Texans Who Invented the Personal Computer. Hugo House Publishers, Ltd. 2013. 330 p. ISBN 1936449366.

16. Maier M.W. Architecting Principles for System of Systems // Systems Engineering. 1998;1(4):267-284. DOIhttps://doi.org/10.1002/(SICI)1520-6858(1998)1:4<267::AID-SYS3>3.0.CO;2-D.

17. Сергеев С.Ф. Человеческий фактор в эволюции техногенного мира // Автоматика. Информатика. 2016. № 2 (39). С. 39–44.

18. Joos E., Zeh H.D., Kiefer C. et al. Decoherence and the Appearance of a Classical World in Quantum Theory. New York: Springer. 2003. 508 p. ISBN ‎978-3540003908.

Войти или Создать
* Забыли пароль?