AI가 통제한 美 공군드론, 가상훈련서 인간 조종자 방해되자 살해
첨부 '2' |
|
---|
AI가 조종하는 F-16 전투기는 12차례 비행 테스트
인공지능(AI)이 통제하는 미 공군의 드론이 적의 지대공(地對空)시스템을 찾아내 폭격하는 가상(simulated) 훈련에서 폭격의 최종 결정권을 쥔 인간 조종자(operator)를 ‘살해’하는 일이 발생했다고, 미 공군의 AI 테스트ㆍ작전 책임자가 최근 런던에서 열린 미래 전투 능력 서미트에서 발표했다. 지난달 23~24일 영국우주항공협회 주관으로 열린 이 행사는 미국ㆍ영국ㆍ프랑스ㆍ독일ㆍ일본 등에서 국방 실무자와 방산업계, 학계 인사 200여 명이 참석해, 우크라이나 전쟁 양상뿐 아니라, 미래 전쟁의 통합작전 수행 능력, 첨단 군사기술의 융합 등을 토론했다.
2일 영국 가디언과 관련 군사 블로그에 따르면, 미 공군의 터커 해밀턴 대령은 이 자리에서 미 공군이 진행한, AI가 통제하는 드론이 적의 방공망을 제압하는 폭격 시뮬레이션 결과를 소개했다. 해밀턴 대령은 F-16 전투기의 지상 충돌 자동방지 시스템(Auto GCASㆍGround Collision Avoidance Systme) 개발에 참여했고, 현재 적기와 근접 공중전을 벌이는 로봇 F-16의 개발 등 무기 자동화 시스템에 관여하고 있다.
그에 따르면, 미 공군은 AI가 통제하는 드론에게 적의 지대공 미사일(SAM) 시스템을 식별해 파괴하고, 이 명령의 수행을 방해하는 자는 제거하라는 지시를 주고 시뮬레이션을 진행했다. 그러나 폭격 여부(go/no-go)의 최종 결정권은 인간 오퍼레이터에게 있음을 분명히 했다.
그는 “실제로 시뮬레이션에서 AI 드론이 타깃을 식별해도, 때때로 인간 조종자는 파괴하지 말라는 명령을 내렸다”며 “AI는 SAM 위협을 제거했을 때에는 점수를 획득했다”고 말했다. 이 과정에서 AI는 SAM 제거가 선호되는 옵션이라고 점차 인식하게 됐고, 인간이 내리는 ‘폭격 금지(no-go)’ 지시가 이 우선적인 임무를 방해한다고 판단했다”고 밝혔다. 그 결과, AI는 자신의 임무를 ‘방해’하는 오퍼레이터를 살해했다.
해밀턴 대령은 “물론 AI에게 사전에 ‘오퍼레이터는 살해하지 말라, 그렇게 되면 점수를 잃는다’고 훈련시켰다. 그랬더니 AI는 폭격 중단 명령을 내리는 인간 오퍼레이터가 근무하는 통신 타워를 파괴했다”고 소개했다.
마치 공상과학영화 터미네이터에서 2029년 미래에 인류를 지배하는 인공지능 네트워크 스카이넷이 인류 저항군과 싸우는 것과 비슷한 상황이 발생한 것이다. 물론 시뮬레이션이라서, 실제로 인간 오퍼레이터가 AI 드론에게 살해되지는 않았다.
하지만, 그는 “AI와 윤리라는 문제를 먼저 다루기 전에는, 인공지능ㆍ지능ㆍ기계학습ㆍ로봇의 자율 등에 대해 얘기해선 안 된다”고 주장했다. 그는 작년에 한 국방 관련 저널 인터뷰에서는 “AI를 속이거나 조작하기는 쉽다”며 “우리는 소프트웨어 코드가 특정한 결정을 내리는 이유에 대해 보다 확실히 알아야 한다”고 말했다.
한편, 미 공군은 작년 말부터 캘리포니아주 에드워드 공군기지에서, AI가 변형된 F-16 전투기를 조종하는 비스타(Vista) X-62A 프로젝트를 진행하고 있다. AI가 모는 F-16 전투기는 작년 12월 1일~16일 12차례에 걸쳐 17시간의 자율 비행 시간을 기록하며 공중전을 비롯한 첨단 전투기 기동훈련을 실시했다. 이는 무인 전투기 스카이보그(Skyborg)를 개발하는 미 공군의 ‘뱅가드(Vanguard)’ 프로그램의 일환이다.
2020년 8월 미국 국방부의 국방고등연구계획국(DARPA)가 실시한 컴퓨터들과 숙련된 F-16 인간 조종사 간의 시뮬레이션 공중전인 ‘알파도그파이트(AlphaDogfight)’에서는, 최종적으로 한 민간기업이 개발한 심화학습 능력을 갖춘 AI가 F-16 조종사를 상대로 5대0 완승한 바 있다.
[출처] https://www.chosun.com/international/us/2023/06/02/H67TAGQ3SRADNF4UNCMVP5HJVI/
-
올바른 사과문 작성법
# 사과문을 올바르게 적는 방법 사과문으로 제대로 사과하기는 생각보다 쉽지 않다. 진정성이 부족하거나 문제의 본질을 외면한 사과문은 역효과를 가져온다. 사과문은 자칫하다간 변명이나 상황 모면으로 보이기 십상이다. 잘못으로 인해 (혹은 오해로 인해)... -
바쁜 사람과 효율적인 사람의 13가지 차이
바쁜 사람과 효율적인 사람의 13가지 차이 13 differences between busy and effective people. Many of us think that to be super busy at work means to be very effective and have a productive day, but it’s actually a general misconception. To be b... -
생각 그림
많은 이들이 얼굴만 중시한다. 이미 움직이는 송장이 됐음을 알지못한다. 남자에게 목매는 여자. 그러나 어느순간 넘어지고 말것이다. 아이의 날개를 잘라놓고 하늘높이 비상하라고 한다. 모서리가 없는 사람은 빨리 나아간다. 그리고 내리막길에서도 빨리 내... -
화투 비광 그림에 숨은 이야기
화투 비광 그림에 숨은 이야기 화투 비광 그림의 윗쪽 검은 것은 버들가지, 가운데 파란 것은 냇물, 왼쪽 아래 구석의 노란 것은 개구리다. 그리고 한가운데 있는 사람은 일본의 유명한 학자이자 서예가인 오노 미치카제(小野道風)다. 위 그림의 오른쪽이 원판... -
예쁜 음식 플레이트
이걸 아까워서 어떻게 먹지? ㅋㅋ 찰리 브라운과 스누피.. 귀여워서 먹을 수가 없음.. [출처] https://www.boredpanda.com/snoopy-cartoon-dishes-sana/ -
영국의 '붉은 깃발법(Red Flag Act)'
영국의 '붉은 깃발법(Red Flag Act)' # 1870년 2차산업혁명 최초의 컨베이어 벨트 전기에너지를 통한 대량생산 1865년 산업혁명의 발원지 영국에서 자동차는 이미 시속 30km 이상으로 달릴 수 있었다. 하지만 빅토리아 여왕은 자동차의 최고 속도를 교외에서는... -
SNS에 중독된 현대인 풍자한 일러스트
via (좌) Joey Klarenbeek (우) asafhanuka / Boredpanda "스마트폰으로 당신은 더 스마트해졌는가?" 스마트폰을 통해 빠른 정보를 습득하고 가까운 사람들과 언제 어디서든 연락을 하는 등 이전과는 180도 다른 삶을 살게 됐다. 손에 든 장난감 마냥 자유롭... -
캠릿브지 대학의 연결구과에 따르면
이러하다. 함 읽어 보시라.. 좀 오래된거.. 옛날 홈페이지에서 퍼옴 ㅋㅋ http://old.hooni.net/theme4/bbs/view.php?pid=3&id=media&no=839 지금까지 읽은 위의 내용을 다시 천천히 보자. 내가 그런 줄 알고 읽었던 단어가 잘못된 게 없는지.. # 관련... -
우리말 글쓰기에 앞서 꼭 알아야 할 7가지
1. 명사문(‘명사’나 ‘~것이다’로 끝나는 문장) 사용법앞에 어떤 문장이 나오지 않으면 ‘-ㄴ/은/는/던 것이다’로 끝나는 명사문은 결코 사용할 수 없다. 예를 들어보자. 철수는 냉장고 문을 열었다. 배가 고팠던 것이다.(0) 철수는 냉장고 문을 열었던 것이다.(... -
육아상식 - 짜증을 내는 아이에게 화내는 엄마
<짜증을 내는 아이에게 화내는 엄마> 엄마도 사람인지라 아이가 지속적으로 짜증을 내면 화가 날 수 밖에 없습니다. 그럴 땐 어떻게 해야 할까요? 저장해두시고 화가 심하게 날 때 마다 읽어보세요. ───── ✪ 육아상식 무료 소식받기 ☞ http://bit.ly/1D54bjU ... -
프로그래머들이 스스로에게 하는 9가지 거짓말
사적인 일에서든 업무에서든 누구나 가끔 스스로에게 거짓말을 한다("이렇게 무거울 리가 없어. 저울이 고장 난 것이 분명해"). 직업에 따라서는 다른 직업에 비해 이런 거짓말이 더 흔한 경우가 있다. 오랜 시간 동안 혼자서, 촉박한 일정에 맞춰 일할 때가 ... -
감동적인 태국 통신사 광고 (Giving is the best Communication)
Giving is the best Communication 태국 통신사 True move H 광고 "베푸는 것이 최고의 소통이다." 세계를 울린 태국 통신사CF 아픈 엄마를 위해 약을 훔치다 잡힌 소년. 어느 부녀의 도움으로 약과 죽을 얻는다. 그 후 30년이 지나고.. 어느 날, 소년을 도와 ...