내가 소비하는 콘텐츠는 누가 만들었을까?

https://youtu.be/sawB6UFf6OY?si=V5yzxR5SsYEkqs58

 

1. AI slob

최근 몇 년 사이, AI 기술이 급격히 발전하면서 인터넷 공간에는 AI가 생성한 콘텐츠가 넘쳐나고 있다.
이때 등장한 표현 중 하나가 바로 AI slob이다.

Slog은 원래 지저분한 사람, 엉망인 상태를 의미한다.

즉, AI가 콘텐츠의 질이나 맥락과는 상관없이 무분별하게 양산해낸 생성물들을 가리키는 말이다.

블로그 글, 유튜브 영상 스크립트, 리뷰, 기사 등에서 AI가 만든 텍스트나 이미지가 실제 인간의 창작물처럼 섞여 온라인 곳곳에 퍼져 있다.
이는 단순히 ‘AI가 만든 콘텐츠가 많아졌다’는 차원을 넘어,

정보의 진위, 출처, 신뢰도 자체를 흐리게 만드는 현상으로 이어진다.

 

2. 사람이 쓴 위키피디아로 학습한 AI → AI가 쓴 위키피디아?

생성형 AI 모델은 대부분 대규모 공개 데이터를 기반으로 학습된다.

그 중 대표적인 소스가 위키피디아(Wikipedia)다.
하지만 최근에는 AI가 직접 위키피디아 항목을 생성하거나 편집하기 시작하면서
다음과 같은 순환 구조가 만들어지고 있다.

• 사람이 작성한 위키피디아 → AI가 학습
• AI가 생성한 글 → 다시 위키피디아에 반영
• 그 위키피디아 → 다음 세대 AI가 다시 학습

이러한 구조는 콘텐츠의 출처가 모호해지고,
AI가 만든 내용을 또 다른 AI가 학습하면서 사실 왜곡이나 오류가 점점 강화되는 정보 자가포식 현상을 낳을 수 있다.
실제로 일부 위키피디아 항목은 AI가 쓴 것으로 밝혀졌으며,
사실 확인이 어려운 영역에서는 기계가 만든 ‘그럴듯한 오류’가 인용되는 일도 발생하고 있다.

 

3. 무엇이 진짜일까?

이런 흐름 속에서, 우리는 점점 ‘진짜’의 기준을 잃어가고 있다.

인터넷의 수많은 글과 이미지, 댓글, 뉴스 기사, 리뷰 중에서
얼마나 많은 것이 인간이 직접 만든 것인지 확신할 수 있을까?

AI가 만든 콘텐츠는 인간처럼 실수하지 않는다.
오히려 너무 매끄럽고, 너무 말이 잘 맞는다.
그래서 더더욱, ‘인간다움’이라는 흔적이 점점 감지되지 않게 된다.

출처 없는 지식, 의도를 알 수 없는 언어,
그 속에서 ‘진짜 인간이 쓴 말’은 점점 조용해지고 있다.

 

MNIST 숫자 데이터셋을 세대를 거쳐 AI에 반복 학습시킨 연구가 있다.
처음에는 사람이 쓴 ‘5’나 ‘8’ 같은 숫자 이미지였지만,
이를 AI가 학습하고 또 다른 AI가 그것을 바탕으로 다시 학습하는 식으로 몇 세대를 거치자,
결국 남은 건 숫자인지조차 판별할 수 없는 왜곡된 형태의 이미지였다.

의미가 축소되고, 문맥이 증발하고, 형식만 남은 결과물.
그건 어쩌면 우리가 지금 보고 있는 정보의 미래일지도 모른다.

 

4. 디스토피아

이러한 상황은 종종 '디지털 디스토피아'라는 키워드로 연결되곤 한다.
인간이 만든 데이터를 기반으로 학습한 AI가
다시 인간에게 정보를 제공하는 시대.
그 AI가 만든 정보를 또 다른 AI가 학습하는 시대.

의미와 맥락이 삭제된 채 형식만 남은 콘텐츠가 반복 재생산되는 정보 생태계는
결국 인간의 사고력과 판단력마저 위협할 수 있다는 우려로 이어진다.

이미 댓글창조 AI, 리뷰생성 봇, 뉴스 편집 AI가 실재하는 지금,
“무엇이 인간의 말이고, 무엇이 기계의 말인가”라는 물음은
단순한 철학적 사유가 아닌, 디지털 리터러시의 핵심 쟁점이 되고 있다.

 

Personal Insight

얼마 전, 온라인에서 AI가 창작한 글과 인간이 창작한 글을 구별하는 테스트에 참여한 적이 있다.

참여하기 전엔은, 잘 구별할 자신이 있었다.
결과는 정답률 0%. ^^?
그 순간 느꼈다. “아.. 나는 이걸 전혀 구별하지 못하는구나.”

 

더 이상 ‘진짜’를 가려낼 수 없다는 사실이 체감됐다.
예전에는 인터넷을 정보의 바다라 배웠고,
‘좋은 정보를 찾는 법’을 배웠다.

 

하지만 이제는 그것만으로는 부족하다.
앞으로는 진짜와 가짜를 구별할 줄 아는 감각,
정보를 해석하고 의도를 읽는 힘,
즉, 새로운 의미의 디지털 리터러시가 필요한 시대다.

 

AI가 만든 정보를 또 다른 AI가 학습하고,
다시 생성된 콘텐츠가 다시 학습 데이터가 되는 이 구조는
결국 정보가 스스로를 먹어치우는 자가포식의 고리로 이어진다.

이런 흐름을 보다 보면, 문득
이 모든 정보가 결국 아무 의미도 남기지 않은 채,

반복 재생산만 되다가 사라지는 건 아닐까 하는 생각이 든다.

조금은 두렵다.

 

심지어 온라인 댓글조차도 누가, 왜 쓴 건지 알 수 없는 말들로 가득하다.
내가 운영하는 티스토리 블로그에도 가끔 맥락 없는, 의미를 알 수 없는 댓글이 달린다.
사람이 단 걸까? 봇이 생성한 걸까?
의심은 점점 커지고, 신뢰는 점점 줄어든다.

 

의미 없는 형식만 남은 정보 속에서,
우리가 믿고 의지하던 ‘진짜’는 얼마나 살아남을 수 있을까?

 

이런 시대에 우리는
어떻게 ‘가짜’를 걸러내고,
어떻게 정보의 자가포식을 막을 수 있을까?

 

그 역할은 인간의 몫일까, 아니면 또 다른 기계의 몫이 될까?

앞으로 어떤 solution이 등장할지 궁금하다.

 

Image created with AI · Curated by JINetic CODE