SNS가 낳은 저주 — 1%가 74%의 갈등이 시작된다.
SNS 세상이 낳은 현대사회의 변화와 문제들
빅데이터, 알고리즘, 머신러닝, AI(인공지능) 이런 단어들이 이제는 우리 삶에 매우 친숙한 단어가 되었다.
하지만, 익숙해진 만큼 우리는 부작용도 겪고있다. 감시자본주의와 가짜 뉴스, 정보화 사회에서 허위 정보 사회로 우리가 만들었던 도구가 사회의 사회 구조를 침식하기 시작했다. 우리는 여태까지 IT발전에 대해서 전반적으로 긍정적인 면만 봐왔다. 이제는 IT산업 전체가 정신건광과 소셜미디어와의 관계에 대해서 생각해봐야 할 때이다.
전자기기 중독
말 그대로 거품 속에 자신을 고립 시킬 수 있는것이 더 심해졌다. 기술 덕에 가짜뉴스가 더욱 발전하고 전 세계를 위협하고 있다. 12년 전에 트위터를 만들었을 때, 러시아의 사이버 공격이 멈추지 않았고 소셜미디어가 아이들을 우울하게 만들었다. 또, 10대들의 화장품 인기가 점점 상승되고 있으며 필터를 먹인 “스냅챗 이형증”처럼 성형외과의사들이 제일 많이 듣는 이야기가 어플과 자신이 닮길 원하는 환자라고 한다.
감시 자본주의
감시 자본주의는 우리가 쉽게 인지하지 못하는 방식으로 정치 문화에 영향을 끼친다. 단순한 가짜 뉴스를 넘어 파문으로 자리잡아 정보화 사회에서 허위 정보의 사회로 넘어오게 되었다. 민주주의가 끊임없이 공격받고 있으며 이것이 우리가 만들었던 도구가 사회의 사회 구조를 침식하기 시작했다.
IT 산업에서 무엇이 잘못된 것인가?
불만의 불협화음 스캔들, 데이터 절도, 기술 중독, 가짜뉴스, 분극화, 선거 해킹 이런 문제들이 동시 다발적으로 이름은 없지만 하나의 소스에서 일어나고있다.
트리스탄 해리스
구글의 전 디자인 윤리학자이자 인간 기술 센터 공동 창업자인 트리스탄 해리는 IT뿐만이 아닌 모든 사람이 알아야 하는 것이라고 한다. 바로, “상품에 윤리적인 디자인을 추구 할 것”
트리스탄 해리스는 구글에서 일하던 당시,
그 누구도 덜 중독적으로 만들려고 하지 않는다는 것에 흥미를 느꼈습니다. 역사상 단 한번도 50명의 캘리포니아의 20~35세의 백인 남성들이 20억명의 사람들에게 영향을 끼친 적이 없습니다.
라고 이야기 한다. 20억명의 사람들은 그들의 아침을 깨우는 알림 설정을 만든 구글의 디자이너들 때문에 사람들이 전혀 새로운 생각을 하게 되었다. 구글에게는 그 문제를 해결해야 하는 도덕적인 책임이 있다고 주장한다. 그는 구글 동료 15~20명에게 PPT를 만들어 메일로 보냈고 결국, 동시 접속자 400명이 넘고 메일은 메일을 타고 그의 의견에 동조하는 이야기들이 들렸다.
“우리도 무언가를 해야해요.”
나중에 래리 페이지가 세번의 다른 회의에서 구글이 그의 프레젠테이션을 진지하게 받아들여야 하는 문화적 움직임이 필요하다고 들었으나, 그러다가… 그게 다였다. 한번 거품 처럼 들끓고 없어졌다는 것이다.
황금알을 낳는 시스템
2006년, 구글과 페이스북을 포함해서 굉장히 유용한 서비스를 한 것에 감탄했다. 이것은 세상에 굉장히 유용한 서비스로 우리가 알기에는 황금알을 낳는 시스템을 만들었다고 감탄했다. 그 시스템은 우아하고 완벽해 보였다. 페이스북은 2년차 때 수익 창출 이사. 돈을 버는게 우선, 그들을 지휘하는 사람들 중 하나 – 가장 멋있는 광고 모델을 찾는 것도..
소셜 미디어를 삭제하는 이유 10가지
지금 당장 소셜미디어를 삭제해야하는 이유 10가지를 쓴 저자 재런 래니어는 이야기 한다. “그들은 왜 돈을 벌까요? 구글이나 페이스북은 역사상 가장 부유하고 성공한 회사입니다. 직원은 상대적으로 적지만 거대한 컴퓨터로 돈을 갈퀴로 슬어담거든요.”
“지난 10년 동안 실리콘 밸리 거대 회사 자신의 사용자들을 파는 사업을 하였습니다.” — 페이스북 초기 투자자
“우리가 사용하는 상품에 돈을 내지 않고 광고주들이 우리가 쓰는 상품에 돈을 냅니다. 광고주가 고객입니다. 팔리는 건 우리고요.”
상품의 대가를 치르지 않으면 네가 상품이다.
구글은 그저 검색 엔진이고 페이스북은 사진을 볼 수 있는 곳이라고요. 하지만 사람들이 모르는 것은 당신의 관심을 놓고 경쟁한다는 겁니다. 페이스북, 스냅챗, 트위터, 인스타그램, 유튜브, 틱톡, 구글, 핀터레스트, 레딧트, 링크드인은 사람들의 눈을 잡아두려고 합니다. 그들은 사용자의 관심을 최대한으로 끌 방법을 찾으려 고민합니다.
얼마나 많은 시간을 쓰게 할까?
인생의 몇 퍼센트나 우리에게 바치게 할까?
공짜처럼 보이는 인터넷에 많이 있는데 공짜가 아니다. 광고주가 돈을 내는 것이다. 왜 광고주가 돈을 낼까? 우리에게 보여주기 위해 입니다. 우리가 상품이에요. 우리의 관심이 광고주에게 상품으로 팔리는 것이죠.
개인의 점진적이고 눈에 띄지 않는 행동과 인식의 변화가 상품인 것입니다. 바로 그게 유일한 상품이죠. 다른 건 상품이라고 할 만한게 없죠. 그들이 돈을 벌 수 있는 유일한 수단이니까요. 당신의 행동을 바꾸고 사고방식과 정체성을 바꾸는 거에요. 아주 점진적인 변화입니다. 누군가에게 미리 천만달러를 받고 세상을 원하는 방향으로 1%바꿔주겠다고 하는 거에요. 세상을 말이에요, 정말 놀랍고 엄청나게 많은 돈이죠.
감시 자본주의
광고주들의 성공을 위해서 모든 사용자들을 무제한으로 추적하는 비지니스를 가진 모든 사용자들을 무제한으로 추적하는 거대 IT기업의 자본주의. 새로운 종류의 시장, 예전에는 없던 인간이 선물로 거래되는 시장. 우리의 모든 온라인 활동이 감시되고, 추적되고 측량된다. 모든 행동이 세심히 관찰되고 기록됩니다. 무슨 이미지를 얼마나 오래 봤는지, 활동 시간, 사람들이 얼마나 우울해 하거나 외로워 하는 것도 알 수 있습니다. 전여자친구를 본다던지 밤에 뭘 하는지 모르는게 없어요. 그의 내성적인지 외향적인지, 어떤 신경증을 갖고 있는지 성격은 어떤지. 우리에 대한 정보를 상상할 수도 없는 정도로 많이 갖고 있습니다. 이 모든 데이터가 항상 쏟아지고 있습니다 인간의 간섭이 거의 전무한 시스템으로 말이죠.
우리가 무엇을 할것이며 우리가 누구인지 점점 더 잘 예측하고 있습니다.
많은 사람들은 그런 데이터가 팔린다고 오해하고 있어요.
하지만 그런 데이터를 포기하는 건 페이스북의 관심사가 아닙니다. 그 데이터로 뭘 하는 걸까요? 우리를 예측하는 모델을 만들어 최고의 모델을 가진 이가 승리하는 것. 점점 더 정확한 모델을 만들어 사용자의 행동을 예측. 마치 화면 반대편에 우리를 본 뜬 인형이 그들에게 있는 것 처럼 – 우리가 한 모든 것들 클릭한 것들 우리가 모든 영상들과 좋아요 눌렀던 것들로 점점 더 정확한 모델을 예측하는 겁니다. 그런 모델이 있으면 사용자의 행동을 예측할 수 있게 되죠 있죠. 어디로 갈 것인지 어떤 종류의 영상을 더 볼건지, 어떤 감정이 당신을 자극하는지도 예측 할 수 있어요.
많은 it 회사들의 3가지 목표
1. 시작 목표 : 사용자의 시간을 늘리는 것
2. 성장 목표 : 계속 찾게 만들고 친구들을 초대해서 친구들이 또 친구들을 초대하게 만드는 것
3. 광고목표 : 광고를 이용해서 최대한 많은 돈을 끌여들이는 것
각자의 목표는 수치들을 올리기 위해 사용자의 성향을 파악하는 알고리즘에 의해 움직입니다.
우리는 온라인 연결이 더 중요한 세상을 만들었어요. 특히 젊은 세대에게 말이죠. 그리고 그 세게에서 두 사람이 연결될 때 두 사람의 조종에 돈을 지불하는 교활한 제삼자를 통해서만 자금이 조달됩니다. 전 세계에서 소통과 문화의 의미가 조작이라는 맥락 안에서 성장하는 세대를 만들어내고 만 것입니다. 우리는 우리가 하는 모든 일으 중심에 기만과 은밀함을 둔 거에요.
충분히 발달한 과학 기술은 마법과 구별할 수 없다. – 아서 C클라크
심리학과 IT기술
트리스탄 해리스는 어릴 적 마술을 배웠다고 한다. 마술사들은 최초의 신경과학자이자, 심리학자이며 사람들의 심리가 어떻게 작용하는지 최초로 이해했다고. 그들은 실시간으로 사람들에게 많은 실험을 하고 우리는 알지도 못하는 심리의 일면 이해하는 것이라고 말한다. 그래서 환각이 이루어지는 것.
의사, 변호사, 비행기 엔지니어나 핵미사일을 만드는 사람들도 자신의 심리가 얼마나 취약한지 모르기때문에 별도로 훈련을 해야하고 그리고 그것은 모든 사람에게 적용 됩니다. 그런 관점에서 보면 기술이 뭘 하고 있는지 다르게 이해 할 수 있습니다. 그는 스탠퍼드 설득 기술 연구소에서 그런 것들을 배웠다고 한다. 사람들을 설득하는 심리학에서 어떻게 기술과 접목했을까요?
설득력 있는 기술을 만드는 법
“관객 중 이미 많은 분들이 천재에요.
하지만 제 목적은 여러분을 행동 변화의 천재로 만드는 겁니다.”
실리콘 밸리의 저명한 인사들이 심리와 행동변화 수업을 많이 들었다. 페이스북 우버와 다른 회사들의 주요 인물들이 더 설득력 있는 기술을 만드는 법을 배웠죠. 트리스탄도 거기 있었습니다. 설득 기술은 누군가의 행동을 바꾸기 위해 극단적으로 설계된 디자인입니다. 사용자가 특정한 행동을 하게 만들고 스크롤을 멈출 수 없게 하려고..
스크롤 슬롯 머신
새로 고침을 하면 또 달라지고요, 매번 말이죠. 심리학에서는 그걸 <간헐적 정적 강화>라고 합니다.
언제 뜰지도 모르고 뭐가 뜰지도 모르는 것이 라스베이거스의 슬롯머신과 완전히 똑같죠. 상품을 계속해서 쓰게 만드는 것도 뇌간 깊숙한 곳으로 들어가 여러분에게 무의식적인 습관을 심어서 심층부에서부터 프로그래밍 하는 겁니다 아주 은밀하게 말이죠. 책상위에 핸드폰을 볼 때마다 계속 눈이 가고 손이 가기 마련이에요. 재미있는게 있을 것 같거든요. 그리고 슬롯머신을 당겨 보는 거죠. 그건 우연이 아니라 그렇게 디자인 된거에요.
친구의 포토 태그
다른 예시는 포토 태그에요. 친구가 당신을 방금 사진에 태그 했다는 이메일을 받으면 당연히 이메일을 클릭하고 사진을 보겠죠. 그것은 그냥 클릭하는 것이 아니에요. 인간 심리의 아주 깊숙한 곳을 건드리는 것이니까요. ‘왜 이메일에 사진이 안들어 있는 거지? 그러면 간편할텐데’ 페이스북이 극 발견했을 때 그들은 그걸 최대화했습니다. 활동량을 늘리기에 좋을 것이라며 사람들이 종일 사진에 태그를 하게 만들었어요.
댓글과 타이핑 중(말줄임표 활성화)
그로스 해킹이라는 분야가 있는데 엔지니어들이 사람들의 심리를 해킹해서 더 성장하는것이다. 더 많은 신규 사용자를 늘리고 활동량을 늘리고 더 많은 이들을 초대하게 만들어요.
단기간의 도파민(뇌신경물질) 추진 피드백 순환고리.
전 페이스북 부사장인, 차마스 파리하피티야는 페이스북을 급성장 시긴 성장 전략들을 개발한 것으로 유명한데 그리고 그 성장 전략은 아직도 실리콘 밸리의 표본이다. 인간의 작은 변화를 이용하는 과학적인 에이비 테스트 사용자들을 작은 실험들. 계속하다보면 사용자를 효과적으로 조절할 수 있는 가장 효과적인 방법을 개발하게 된다고.. 2011년 퇴사한 팔리하피티야는 “사회적 담론과 협력은 사라지고 잘못된 정보와 거짓만 남았다”고 페이스북을 비판했다. 그러면서 “지난해 미국 선거에서 러시아가 악용한 것처럼(미 대선개입) 페이스북이 초래하는 사회적 분열에 대해 엄청난 죄책감을 느끼고 있다”고 말했다. 그는 자신은 물론 “자녀들도 페이스북을 사용하지 못하게 하고 있다”고 밝혔다. 그는 “여러분은 인지하지 못하고 있지만, 여러분의 행동은 프로그램화 되고 있다”며 소셜미디어에서 벗어나 충분한 휴식을 취히라고 권했다.
페이스북 대규모 감정 전염 실험
페이스북은 2012년, 실험군과 비교군으로 나누고 실험군 68만9003명의 뉴스피드를 조작하여 감정 전염 실험을 하였고 그 결과를 논문에 인용하였다. 부정적 단어 노출을 축소하면 긍정적 단어가 증가하고 부정적 단어가 감소하였으며 긍정적 단어 노출을 축소할 경우 긍정적 단어가 감소하고 부정적 단어가 증가했다는 결과를 얻었다. 따라서 그들은 감정의 전이가 가능하다면 정치 성향과, 이념, 사상도 조작이 가능하다는 결론을 얻었다. 페이스북 페이지에서 어떻게 무의식적인 암시를 줘서 사람들이 중간 선거에 투표를 더 하게 만들까에 대하여 고민하였고 그리고 그게 가능하다는 걸 알게 되었고 그들은 아무도 모르게 사용자들의 실제 행동과 감정을 끌어 낼 수 있다는 거죠. 사용자들은 꿈에도 모른 채.
인공지능 엔진 실험
우리는 인공지능 엔진들을 우리에게 써서 우리가 무엇에 어떻게 반응하는지 알아내고 있다. 마치 거미의 신경 세포를 자극해서 무엇이 다리를 움직이는지 알아내는 것처럼. 사람들을 매트릭스로 끌어들여서 그들의 활동에서 나오는 돈과 데이터로 이익을 얻는 거죠. 근데 우리는 그 사실을 모른다. 최대한 빨리 심리적으로 당신을 조작할 방법을 알아내고 말초적인 보상을 주려고 한다. 페이스북은 그걸 너무 잘했고 구글, 인스타그램과 왓츠앱, 트위터, 스냅챗도 이와 같은 실험을 했다. 인간 심리의 취약한 면을 이용한 일종의 해커들이 떠올릴 법한 발상인 것을 의식하고 있었지만 진행했다.
자전거가 처음 나타났을 때
자전거가 나타났을 땐 아무도 화내지 않았어요. 도구라는 것은 쓰지 않을 때는 가만히 있습니다. 가만히 기다리고만 있죠. 뭔가를 당신에게 요구한다면 도구가 아닌거죠. 당신을 유혹하고 조종하며 당신에게서 뭔가를 요구해요. 우리는 근본이 도구인 기술 환경에서 옮겨간 거예요. 근본이 중독, 조종인 기술 환경으로 말이죠. 소셜미디어는 사용되길 기다리는 도구가 아닙니다. 그만의 목적이 있고 그 목적을 달성하려고 합니다. 당신의 심리를 역이용해서 말이죠.
고객을 사용자라고 부르는 산업은 단 두종류가 있다.
불법 마약과 소프트웨어 산업이다. – 에드워드 터프티
소셜 미디어는 마약이에요 . 우리에게 다른 사람들과 연결되어야 하는 생물학적 의무가 있고 보상 차원의 도파민 방출에 직접적인 영향을 끼치죠. 수천년만년의 진화가 그 시스템 뒤에 있어요. 무리지어 살고 짝을 잊고 대를 잇기위해. 소셜 미디어는 사람들의 연결을 최적화해서 중독되게 만들기 마련이에요.
아이들의 SNS중독
상품을 보호하려는 아동 심리학자들이 만든 것들이 아니에요. 당신에게 맞는 비디오를 추천하기 위한 알고리즘을 위해 만들어진 것들이죠 필터를 먹여서 사진을 찍게 만들기도 하고요. 아이들의 관심만 통제하는게 아니에요. 특히 소셜 미디어는 뇌간 깊숙히 파고들어 아이들의 자존감과 정체성을 장악합니다. 우리는 주변 사람들의 비평에 관심을 갖도록 진화했습니다. 왜냐하면 중요하니까요. 하지만 우리가 1만명의 비평을인식하도록 진화했나요? 우리는 5분마다 한번씩 사회적 인정을 받도록 진화하지 않았어요. 우린 그런 걸 감당 할 수 없다고요.
좋아요와 하트 그리고 관심
우리는 완벽함을 중심으로 삶을 꾸려 나갑니다. 잠깐 뜨고 마는 하트, 좋아요 같은 신호에 보상을 받기 마련이죠. 그리고 가치와 진실을 혼동합니다. 또한 알고보면 가짜인 것과 부서지기 쉬운 인기이며 오래가지도 않는 것에 매달리다가 전보다 더 공허해집니다. 왜냐하면 악순환에 빠지게되어 다음에는 뭘 해야 보상을 받을지 고민하게 만드니까요. 20억명의 사람들이 그러는 것과 살마들의 그들의 평판에 어떻게 받아들이는지 보세요. 정말 심각합니다.
미국의 10대들에게서 우울증과 불앙니 엄청나게 증가 했는데 2011년과 2013년 사이에 시작되었어요. 이 나라의 10대 소녀 중 10만명이 매년 병원에 입원합니다. 자해로요. 갑자기 급상승 했습니다. 10대 후반의 소녀 62퍼 증가, 10대 초반 소녀들의 수는 189%로 3배나 뛋습니다. 자살률도 70퍼에서 151퍼센트로 증가하였습니다.
모바일 사용량 제트 Z세대. 중학생때 소셜 미디어를 접합니다. 세대 전체가 더 불안하고 연약하고 우울해 합니다. 위험을 감수하려는 마음도 적고요. 데이트 같은 로맨틱한 것도 한 세대가 변하고 있는거에요. 애들이 변할때마다 충격받는 어른들이 있습니다. 이런 서비스들이 사람을 죽이고 있습니다.
“저는 it디자이너 들에게 아이들이 조종당했으면 좋겠어요. 관심을 모조리 뺏겨버려서 숙제를 할 수도 없고 비현실적인 미의 기준에 자신을 비교했으면 좋겠어요.”
이런 부모가 어디에 있나요? 그런 사람은 아무도 없어요. 이전에는 보호 장치가 있었죠. 아이들이 토요일 오전에 만화를 볼 때 아이들에게 신경을 썼잖아요, 이렇게 어린 아이들에게 이런 광고를 하면 안 돼. 그런데 유튜브를 보세요. 유튜브가 모두의 관심을 완전히 장악했고 모든 아이들이 유튜브에 노출 되있어요. 모든 보호와 규정이 사라졌고요. 우리는 한 세대 전체를 훈련하고 길들이고 있습니다. 우리가 불편하거나 외롭거나 불확실하거나 두려울 때 디지털 젖꼭지를 찾게 말이죠. 우리가 본래 가진 능력을 위태롭게 하는 거에요.
포토샵은 수천명의 엔지니어가 화면 뒤에서 알림과 친구들을 이용하고 인공지능을 이용해서 당신을 중독시키고 조종하거나 광고주들이 6만개의 다양한 문자나 색상을 테스트해서 당신의 마음을 조작하는 법을 알아내지 않았습니다. 이 기기와 공존하는 법. 다른 모든 것들과 그랬던 것처럼. 그런데 분명히 새로운 뭔가가 있다는 것을 놓치고 있어요 .
컴퓨터의 연산능력이 1조배 상승 할 동안
아마도 가장 위험한 것은 기하급수적으로 발전하는 기술에 휘둘린다는 것일 겁니다 1960년대 부터 지금 까지 컴퓨터의 연산능력은 대략 1조배나 상승했습니다. 어떤 기술도 이런 속도로 발전한 게 없습니다. 자동차는 겨우 두배 빨라졌고 다른 건 거의 무시해도 될 정도 입니다. 인간의 생리와 두뇌는 전혀 발전하지 않았다는 겁니다.
인간의 정신과 신체 같은 건 근본적인 변화가 없었을 겁니다. 미래에는 유전 공학으로 새로운 인간을 발명해낼지도 모르지만 현식적으로 말해서 우리는 뇌라는 하드웨어 안에 살고 그 뇌는 수백만 년이나 된 겁니다. 그런데 여기 화면이 있고 그 화면의 반대편에 수천 명의 엔지니어와 슈퍼 컴퓨터들이 당신의 목표와 다른 목표를 갖고 있어요. 그 게임에서 누가 이길까요?
인공 지능이라고 하면 터미네이터, 드론 같이 사람들을 죽일거라는 생각이 들죠. 인공지능이 이미 지배 하고 있어요.
