인공지능의 한계 인식과 '이해'라는 개념

 

"인공지능을 사용할 때 그 한계를 명확하게 인지하고 도구로 사용하라"는 이야기를 많이들 합니다.

 

그 말에는 분명히 이유가 있습니다. 인공지능은 매우 강력한 도구이긴 하지만 완벽하지 않으니까요.

특히, 데이터에 기반해 학습하기 때문에 데이터가 가진 편향이나 오류가 결과에 영향을 줄 수 있습니다. 그래서 인공지능을 사용할 때는 그 한계를 잘 이해하고, 사람의 판단을 보완하는 형태로 활용하는 것이 중요합니다.

 

예를 들어, 인공지능이 제공한 정보를 맹신하기보다는 그 정보를 하나의 참고점으로 삼아 최종 결정을 내리는 것이죠. 이렇게 인식하고 접근하면 인공지능의 장점을 최대한 활용하면서도, 잠재적인 단점이나 오류로부터 스스로를 보호할 수 있습니다.

 

그리고, 전문가들 또한 용어와 표현에 있어, 매우 조심해야 된다고 생각을 합니다. 인공지능을 이야기하다보면, 자연어 이해라는 말을 쓰게 되는 데, 엄밀히 말하면, 자연어 이해라기 보다는 자연어 처리라는 말이 더 정확한 표현이라고 생각합니다.

그러나, 요즘 인공지능 관련 뉴스나 책, 강의, 유튜브를 보면 표현이나 용어에 있어 대중에게 오해를 불러 일으킬 수 있는 경우가 많아 보입니다. 

 

용어 선택은 매우 중요합니다.

 

특히 인공지능 분야에서는 '자연어 처리(Natural Language Processing, NLP)'와 '자연어 이해(Natural Language Understanding, NLU)' 같은 용어들이 정확한 개념을 전달하는 데 큰 역할을 합니다. 자연어 처리는 기계가 인간의 언어를 처리하고 분석하는 기술 전반을 의미하는 반면, 자연어 이해는 이보다 좀 더 구체적으로 기계가 텍스트를 인간처럼 이해하는 능력을 가리킵니다. 

 

대중 매체에서 이런 용어들을 간혹 잘못 사용하거나 오해를 불러일으킬 수 있을 만큼 단순화하는 경우가 있는데, 이는 일반 대중이 인공지능 기술의 현재 상태나 능력을 과대평가하게 만들 수 있다고 봅니다. 예를 들어, 인공지능이 ‘이해’할 수 있다고 말할 때, 사람처럼 깊은 수준의 이해를 의미하는 것이 아니라, 여기에서는 특정 맥락에서 데이터를 처리하고 패턴을 인식하는 능력을 말하는 것이기 때문입니다.

 

이런 오해를 줄이기 위해서는 전문가들뿐만 아니라 미디어도 정확하고 명확한 용어 사용에 더 많은 주의를 기울여야 한다고 봅니다. 그래서 전문가들이나 교육자들은, 이런 미묘한 차이를 설명하면서 대중이 보다 정확한 지식을 가질 수 있도록 도와야 한다고 생각합니다. 

 

여기에는, 아마도 고의나 다른 의도 때문이라기보다는, 업계에는 용어가 있고 학계마다 같은 단어인데도 다른 의미로 사용되는 부분도 있기 때문이라는 생각도 듭니다. 인지과학이나 인지심리학 쪽에서의 '이해'라는 용어와 자연어 처리, NLP 분야에서의 '이해'는 전혀 다르게 쓰고 있기 때문입니다.

 

NLP에서는 '이해'와 '생성'을 구분하고, 여기서 '이해'는 구분, 분류의 범주이고, '생성'은 글쓰기의 범주이면서 둘을 합해서 NLP라고 하는데, 인지과학 하시는 분들 입장에서 보면 "어? 무슨 이해를 해? 월드 모델도 없는 게?" 이런 오해를 하실 수도 있는 것입니다. (하정우 센터장님 글 중에서)

 

이처럼, 분야에 따라 같은 용어가 다른 의미로 사용되는 경우가 많습니다.

특히 인공지능과 같이 여러 학문적 배경이 교차하는 분야에서는 더욱 그렇다고 봅니다. 앞서, '이해'라는 용어는 인지과학이나 인지심리학에서는 인간의 사고 과정이나 지각을 통해 정보를 처리하고 그 의미를 파악하는 능력을 의미하는 반면, NLP 분야에서는 주어진 텍스트 데이터를 기계가 어떻게 처리하고 분석할 수 있는지를 나타내는 데 사용되는 것 처럼요.

 

NLP에서 '이해'는 말 그대로 텍스트의 구조와 의미를 파악하는 과정을 말하고, 이는 주로 데이터의 분류, 추출, 요약 등을 포함합니다. '생성'은 이러한 이해를 바탕으로 새로운 텍스트를 만들어내는 것을 의미하는데, 이런 기술적인 '이해'가 인간의 이해와 같은 수준이라는 오해가 생길 수 있습니다.

인지과학이나 인지심리학에서 말하는 '이해'는 훨씬 더 복잡한 인지적 과정을 포함하며, 인간의 경험, 지식, 상황 인식 등을 통합하는 과정을 의미합니다. 따라서, 인공지능이 인간처럼 진정한 의미의 '이해'를 할 수 있다고 말하기에는 아직 멀었습니다. 

 

이런 용어 사용의 차이 때문에, 특히 다양한 학문적 배경을 가진 사람들이 소통할 때 오해가 생길 수 있습니다. 이를 해결하기 위해서 상호간의 대화와 설명이 중요하고, 용어의 정의를 명확히 하는 것이 필요합니다. 이렇게 하면 각 분야 간의 이해도를 높이고, 서로의 관점을 더 잘 이해할 수도 있을 것입니다.

 

 

인공지능이 '이해'하는 것은 인간이 이해하는 방식과는 다르다.

결론은 인공지능, 특히 기계학습이나 딥러닝 모델들은 데이터에서 패턴을 학습하여 예측, 분류, 생성 등의 작업을 할 수 있지만, 이것을 인간의 '이해'와 같은 방식으로 볼 수는 없는 것입니다. 비록, 인공지능이 복잡한 계산과 알고리즘을 통해 정보를 처리하지만, 인간처럼 직관적으로 사물의 의미나 맥락을 완전히 이해하지 않기 때문입니다. 인공지능은 오로지 주어진 데이터와 알고리즘의 한계 내에서 작동하고, 인간처럼 자유롭게 사고하고 느끼고 경험하는 방식으로 '이해'할 수는 없다는 것입니다.

 

그러나, 분명히 인간이 이해하는 것과는 다를 수는 있겠지만, 인공지능이 사전 학습 과정에서 단계별로 문제를 풀어나가는 것 그리고, 단계적인 절차적 해결 방법이 장착되어 있는 걸로 봐서는 이건 그냥 확률적으로 단어를 출력하는 수준의 능력은 아니라고 보고, 그 한 단계 위에 무언가가 있다라는 생각은 듭니다.

 

이는 인공지능, 특히 딥러닝과 같은 고급 기술들이 단순히 확률적으로 단어를 매칭하는 수준을 넘어서고 있다는 것을 보면 알 수 있습니다. 인공지능 모델, 특히 순차적이고 단계적인 문제 해결이 요구되는 영역에서 활동하는 모델들은 복잡한 문제를 해결하기 위해 여러 단계를 거쳐 정보를 처리하고, 이전에 학습한 지식을 적용해 새로운 상황에 대응하는데, 이때, 자연어 처리(NLP) 분야에서는 언어의 맥락을 이해하고, 문장 구조를 분석하여 의미를 파악하는 과정이 필요하기 때문입니다.

 

이러한 과정은 단순한 단어의 확률적 매칭을 넘어서서, 언어의 깊은 구조와 의미를 모델링하는 것을 포함하고, 또한, 게임이나 복잡한 문제 해결에서, 인공지능이 여러 가능한 경로를 고려하고 최적의 해결책을 찾기 위해 이전 단계의 학습을 바탕으로 전략을 세우는 능력을 보여주기 때문입니다.

 

이처럼, 인공지능이 단순한 계산을 넘어서서 어떤 형태의 '이해'를 하고 있음을 시사할 수 있지만, 여전히 이것이 인간의 이해와 동일하다고 보기는 어렵고, 인공지능의 이해는 데이터와 알고리즘에 의존적이며, 인간의 경험, 감정, 직관과 같은 요소를 포함하지는 않습니다.

 

하지만 분명히 인공지능의 능력이 발전하면서 인간의 사고와 문제 해결 방식을 모사하는 데 점점 더 가까워지고 있다는 점은 흥미롭다고 할 수 있겠습니다.

 

 

 

정보검색의 진화. 챗GPT

검색말고 질문하세요.

 

미래소년입니다.