착한 AI는 없다…기술은 결국 사용하는 사람의 의지를 따른다

구글의 ‘악해지지 말자(Don't be evil)’에서 ‘옳은 일을 하자(Do the right thing)’로의 변화, 그 이후의 행보는 AI가 얼마나 쉽게 군사적 도구가 될 수 있는지를 보여줍니다.

2010년, 미국 마운틴뷰의 구글 캠퍼스에는 제초제 대신 풀을 뜯는 염소 떼가 있었습니다. 환경을 생각한 이 목가적인 풍경은 ‘악해지지 말자’라는 모토와 닮아 있었죠. 하지만 2015년, 구글은 모토를 ‘옳은 일을 하자’로 바꾸고 이후 행보에서도 변화가 나타났습니다. 기술을 군사적 목적으로 사용하지 않겠다던 선언은 무너졌고, 구글·오픈AI·메타 등 글로벌 빅테크들이 미 국방부와 AI 군사 프로젝트에 직접 뛰어들었습니다.

• 구글 모토 변화와 AI 군사 참여
• 빅테크와 국방 AI 프로젝트
• 소버린 AI 개발 필요성
• 구글 메이븐 프로젝트 논란
• AI 남용을 막는 견제의 필요성
• 결국 중요한 건 사람의 의지

구글 모토 변화와 AI 군사 참여

구글은 한때 “기술을 군사적 목적으로 사용하지 않겠다”는 입장을 고수했지만, 2015년 모토 변경 이후 방향이 달라졌습니다. ‘Do the right thing’이라는 문구는 긍정적 이미지를 확대하겠다는 의도였지만, 실제 행보는 국방 분야 참여로 이어졌습니다. 과거에는 친환경과 평화를 상징하던 기업 이미지가, 이제는 군사 프로젝트와도 연결되는 양상을 보이고 있습니다.

빅테크와 국방 AI 프로젝트

기업	참여 내용
구글·오픈AI·앤스로픽·xAI	미 국방부와 2억 달러 규모 전투용 AI 개발 계약
메타	미군용 확장현실(XR) 안경 개발
팔란티어	군 데이터 분석 및 활용 사업

일부 기업 개발자들은 아예 군 장교로 임관해 원격으로 군 기술 자문을 제공하고 있습니다.

소버린 AI 개발 필요성

• 외국 AI의 잠재적 위협을 줄이기 위한 독자 기술 확보
• AI 무기화 가능성 차단
• 국가 안보 및 데이터 주권 강화

전문가들은 AI가 특정 단어에 반응해 악성코드를 퍼뜨리거나 스파이웨어를 심을 수 있다는 점을 들어, ‘보이지 않는 무기’로서의 위험성을 경고합니다. 이 때문에 각국이 자국 주도의 소버린 AI 개발에 힘을 쏟고 있습니다.

구글 메이븐 프로젝트 논란

2018년 구글은 미 국방부와 ‘메이븐 프로젝트’ 계약을 맺어 AI로 드론 영상을 분석하는 사업에 참여했습니다. 이에 수천 명의 직원들이 경영진에 항의 서한을 보내 전쟁 관련 사업에 반대했고, 결국 구글은 “다른 사람을 다치게 하거나 이를 돕는 데 AI를 활용하지 않겠다”는 원칙을 발표했습니다. 하지만 현재 이 원칙은 사실상 폐기됐고, 빅테크의 군사 참여는 다시금 확대되고 있습니다.

AI 남용을 막는 견제의 필요성

AI는 스스로 선과 악을 구분하지 않습니다. 사용자의 목적과 의지에 따라 도구가 될 수도, 무기가 될 수도 있습니다. 따라서 미국, 중국 등 주요국이 AI와 디지털 기술을 군사적으로 남용하는 것을 막으려면, 시민사회와 국제사회의 지속적인 감시와 견제가 필요합니다.

결국 중요한 건 사람의 의지

1. 1. 기술 그 자체는 중립적 — 어떻게 사용하느냐가 문제
2. 2. 지속적인 비판과 토론 — 기업과 정부의 오남용 방지
3. 3. 글로벌 협력 — AI 무기화 방지 규범 마련

결국 AI의 선악은 기술이 아니라 사람의 선택에 달려 있습니다.

자주 묻는 질문(FAQ)

Q

소버린 AI란 무엇인가요?

특정 국가가 자국의 데이터와 기술로 독자 개발한 AI를 말하며, 외국 기술 의존도를 줄이고 보안 위협을 완화합니다.

Q

메이븐 프로젝트가 논란이 된 이유는?

AI를 드론 영상 분석에 활용해 군사작전에 기여하는 것이 전쟁 관련 사업 참여로 간주되어 내부 반발이 컸기 때문입니다.

Q

AI가 군사적으로 사용될 경우 어떤 위험이 있나요?

무기화, 감시 강화, 선제공격 명분 확대 등 인권과 평화를 위협하는 결과를 초래할 수 있습니다.

Q

AI 남용을 막기 위한 방법은?

국제 규범 제정, 기업 내부 윤리위원회 운영, 시민사회 감시 등이 필요합니다.

Q

AI는 선한 기술일 수 없나요?

기술 자체는 중립적이지만, 사용자의 의도와 목적에 따라 선하게도, 악하게도 쓰일 수 있습니다.

AI는 스스로 착하거나 악할 수 없습니다. 모든 것은 그것을 설계·운영·활용하는 사람의 의지에 달려 있습니다. 빅테크와 정부가 AI를 군사적으로 활용하는 경향이 커지는 지금, 국제 사회와 시민들의 견제는 필수입니다. 끊임없는 논의와 감시 속에서만 기술은 사람을 위한 도구로 남을 수 있습니다.

기술의 방향타는 코드가 아니라, 그것을 쥔 사람의 손에 있습니다.