새로운 질서 독후감#6(안보)

[yoonminsang]

5장 안보

군사 전략의 재조정부터 외교술의 재편에 이르기까지 AI는 세계 질서를 결정짓는 요인이 될 것이다.

객관성은 전쟁주의자와 평화주의자 모두 이용하므로 힘이 책임감 있게 행사되려면 반드시 인간 지혜의 주관성을 보존해야 한다.

AI가 사실상 독립적인 정치적, 외교적, 군사적 주체로 출현한다면, 아주 오래된 힘의 균형은 사라지고 새로운 미지의 불균형이 나타날 것이다.

AI의 시대가 도래하여 맟미내 영구적인 평화가 실현되지 않을까?

첩보와 파괴 활동

AI 에이전트는 경쟁자의 과학적 성과를 흔적조차 남기지 않고 파괴하여 적국 과학자들의 노력을 헛수고로 만들 수 있다.

---

앤트로픽 "AI가 주도한 최초의 사이버 공격 발생"

실제로 AI를 이용한 사이버 공격이 발생하고 있다.

---

한편 AI는 인간 심리의 약점을 대규모로 조작하는 고유한 능력을 갖춰 경쟁국의 매체를 장악할 수도 있다.

---

나는 인간의 가장 큰 약점이 심리라고 생각한다. 종교에 대해서 말이 많은데 나는 종교를 믿지 않지만 긍정적으로 생각한다. 그 가장 큰 이유는 종교가 많은 인간의 심리를 치유해주기 때문이다.

역사적으로 생각해봤을 때 신문이 없을때도 이런 심리를 이용한 공격이 통했고 지금은 기술이 발전하면서 공격할 수 있는 수단이 더 많아졌다. 사실 이미 정부 해킹, sns 허위사실 유포 등을 통해 공격이 가능하다. 지금과 크게 다를것 없을 것 같긴한데 위에서 AI를 이용한 해킹이 시도되는 것을 보면 이것도 신경써야할 부분은 맞는 것 같다.

---

AI 출현의 관리

한 국가가 영향력을 독접하는 단극 체제는 인류가 멸종할 위기를 최소화하는 한 가지 경로다.

인간의 역사에서 역동성을 예방하는 일은 성공한 적이 없으며 애초에 그러려는 시도조차 아직 기록된 바 없다.

지배적인 국가 집단은 AI 시스템의 최초 발명자이자 가장 중요한 구성 요소의 공급자, AI를 개발하고 개선하는 인재들의 배출국일 것이다.

저자들은 단 하나의 절대적인 AI가 아니라 전 세계에 복수의 우수한 지능이 구현될 거라 믿는다. 이는 균형추 역할을 하며, 세계정세의 균형을 달성하고 유지하는데 뛰어난 능력을 보일 수 있다.

여러 AI가 서로 외교를 수행할 수 있다. 그러나 그렇게되면 AI의 기량에 더 의존할 것이다. 그렇다고해도 인간을 보호하기 위해서는 감수해야한다. 위협이 점차 정교해졌기에 인류의 방어는 더 완벽해야한다. 완벽하려면 AI의 도움이 필요하다. 위험도가 낮은 과제부터 시작해야한다. 분명 AI가 위험하지만, 인간의 완벽한 수행을 요구하는 전통적인 방식은 더 위험하다. 바람직한 부분만 가속화하고 바람직하지 않은 부분은 지연시킬 질문을 던져야한다.

전쟁의 새로운 패러다임

AI는 디지털 전쟁, 물리적 전쟁(드론)에 사용된다.

진정한 병사는 눈앞의 적을 증오하기 때문이 아닝라 그의 뒤에 있는 가치와 존재를 사랑하기 때문에 싸운다. 하지만 AI 전쟁은 이와 무관하다.(자아, 충성심은 관련이 있을 수 있지만 개념의 성격이 이전과는 다르다.)

인간의 전쟁에서 계산은 명확하다.(고통, 정복, 협상) 하지만 AI는 그런 인식이 없다. 전쟁에 도입된 AI를 무엇이 제약할지, AI가 초래한 분쟁을 무엇이 끝낼지 아무것도 모른다.

지정학적 개편

AI는 국가 정보의 권력에 근본적으로 도전할 수 있다.

AI를 소유하고 개발하는 기업들이 사회적, 경제적, 군사적, 정치적 위력을 전부 축적할 수 있다.

통제되지 않은 오픈소스로 인해 소규모 범죄 조직이나 부족의 출현을 야기할 수 있다.

평화와 위력

AI는 더 높은 정확성으로 역할을 수행하며, 서로 상충하는 인간의 이해들을 조화롭게 일치시키며 세계적으로 최적의 새로운 해결책을 제시할 수 있다.

이 책의 저자들은 여기서 타인을 희생시켜서라도 자기 이익을 좇는 인간의 본성, 이기심이라는 최악의 특성으로부터 스스로를 되돌아보는 최선의 특성이 드러나리라 믿으며 희망한다. 즉, 우리는 자신이 이기적임을 알기에, 그러한 본능을 초월한 AI의 가능성을 인정할 수 있다.