Apka (@apkca) header
Apka (@apkca) profile picture

The most mid-curve alpaca

Joined July 2020
Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)Photo by Apka (@apkca)
Pinned Tweet
love is to share, mine is for you
There is no beginning or end, I love you.
1
331
더 정확히 말하면 인간의 내면의식이 고유한 만큼 인간의 외부 지능을 통제하기 위한 마구도 인간의 수만큼 많을 수밖에 없는 것이겠지만. 대략 이런 방향일 것이다. nitter.cf/karpathy/status/204047…
Wow, this tweet went very viral! I wanted share a possibly slightly improved version of the tweet in an "idea file". The idea of the idea file is that in this era of LLM agents, there is less of a point/need of sharing the specific code/app, you just share the idea, then the other person's agent customizes & builds it for your specific needs. So here's the idea in a gist format: gist.github.com/karpathy/442… You can give this to your agent and it can build you your own LLM wiki and guide you on how to use it etc. It's intentionally kept a little bit abstract/vague because there are so many directions to take this in. And ofc, people can adjust the idea or contribute their own in the Discussion which is cool.
1
90
결국 도구는 생각만으로 실시간으로 만들어지니, 곁가지를 쳐낸 다음 중요하게 남는 것은 정보를 처리하는 흐름에 대한 추상화된 서술일 것이다. 그리고 정보를 실제로 한 지점에서 다른 지점으로 이동시킬 권리와.
60
방향 없는 가치관이라 뭐라 하기도 막막할 뿐이다. Philosopher king이 아닌 executioner king이 통치하는 지금 시대엔 당연한 것인가 싶다.
1
58
이런 것도 오래가진 않겠지만 말이다. Harness는 말 그대로 말을 다루기 위한 마구인데, 이 말은 신비롭게도 시간이 지날수록 더 빠르고 강력하고 똑똑해지는 성질을 가지고 있고, 심지어 기수의 성격에 맞춰 자신을 바꾸기도 하기 때문에 곧 기수가 마구를 필요로 하지 않는 때가 올 수밖에 없다.
1
57
Leaked code를 가져다 올리고 AI로 언어를 바꿔 작성하게 하곤 “clean room”이란 그럴듯한 단어를 가져다가 force push로 git history를 갈아치우며 아무 문제가 없다고 하는 것에 대한 짜증은, 그 행동의 적법성은 둘째치고 이런 후안무치함이 보상받는 현 시대에 대한 염증일 것이다.
1
1
211
nitter.cf/chester_roh/status/204… 도덕과 염치가 자연의 제 1 공리는 아니지만 인간에겐 사회적인 쓸모가 있어 발생했는데, “새로운 세상, 새로운 세대의 가치관”에는 해당사항이 없어 보인다. 일단 ‘앞으로 뛰쳐나가 어떻게든 박수갈채를 받아라’를 제외하면
어제 이 내용관련 녹화를 싸이오닉 대표님과 찍긴했는데, 새로운 세상 새로운 세대의 가치관을 보여주는 시작점이라고 본다. 인류의 모든 지식과 표현을 능가하는 super intelligence 의 존재자체가 모든 저작권의 super set 인데 그들의 모든 산출물이 저작권 위반일텐데 어쩌란 말인가. 과거의 관점으로 해석이 불가능하다.
1
1
92
youtu.be/oDJfu4WsTrM?si=C_gU… 신현송 한은 총재 후보의 과거 영상을 보면 앞으로 한국의 암호화폐가 나아갈 방향을 가늠할 수 있는데, 오늘 토스 메인넷 소식을 비롯해 미래에셋 등 기존 금융권에서 올해 들어 크립토에 빠르게 관심을 보이는 양상을 보면
1
81
단순하게는 중앙은행이 관리하는 CBDC를 줄기로 DeFi 등 Private 섹터의 작은 가지들이 뻗어나가는 형태가 예상된다. youtu.be/8edNGGP_T4k?si=HD2F… 다만 지금껏 암호화폐의 특징이었던 수많은 알트코인을 위시한 heterogeneous한 생태계는 등장하지 않을 확률이 높아 보인다.
1
51
소위 "재미없는" K-암호화폐의 등장이랄까. 한국 문화엔 그게 더 잘 어울릴지도 모르겠다.
29
People make decisions with emotions, not logic, but that's actually rational if "rationality" means a predictable relationship between an input and a corresponding output.
30
인류는 역사의 오랜 기간 동안... 좀처럼 변화가 눈에 보이지 않는 상태로 살아왔다. 약 30년 전만 해도, 변화란 어느 정도 예측할 수 있는 것이어서, 부모들은 자식들도 어느 정도 자신들과 비슷한 삶을 살 것이라 예상할 수 있었다. 그전에는 더욱 그랬다. 수백 년 왕조 국가들의 역사에서, 한 평범한 백성의 일생 동안 왕이 죽고 바뀌는 일이 과연 얼마나 잦은 일이었겠는가? 물론 세상이 급격히 바뀌고, 시대의 물결이 빨라지는 전란의 시기는 있었겠지만, 이것 또한 수백 년의 역사에 비하면 짧은 수십 년이었을 것이고, 대부분의 시기는 자식과 부모의 삶의 양상이 크게 다르지 않은, 느린 변화의 시대였을 것이다. 인간이 문명과 국가를 이룩하기 전에는 더더욱, 수십만 년 동안, 역사를 거슬러 올라갈수록, 인간이 체감할 수 있는 변화는 자연의 변화가 대부분이었다. 계절의 변화와 인간의 군락이 이동하며 생기는 변화들. 그땐 인간은 곧 자연의 일부였을 것이다. 허나 이젠 그 양상이 크게 달라졌다. 인간의 힘이 자연을 압도하기 시작하며, 산업과 기술의 발달로 인간의 창조물들이 자연을 이용하고 변화시키는 속도가 빨라지기 시작했고, 이젠 AI라는, 어쩌면 인간 최후의 창조물이 될지도 모를 것이 등장하며, 개인이 체감하는 변화의 속도는 자식의 세대뿐 아니라 바로 다음 5년조차 예측하기 어려울 정도로 빨라지게 됐다. 이것이 암시하는 바는, 변화의 속도는 지수적이라는 것이다. “x to the power of n”; 지수법칙은 어떤 것의 증가가 기하급수적으로 일어난다는 법칙으로, 1초마다 두 배로 증식하는 세포가 있다고 했을 때, 이 세포가 병의 절반을 가득 채우는 데 59초가 걸렸다면, 나머지 절반을 채우는 데는 단 1초밖에 필요하지 않다. 정규분포와 선형적 변화의 상식으로는 이해하기 힘든 것이다. 물론, 병이라는 한계를 가정한다면, 세포는 병의 공간 이상으로 증식할 수는 없다. 마찬가지로, 그것이 지능이든 생명이든, 주어진 자원이 모두 소진되는 경계 이상으로 증식하는 것은 불가능하다. 하지만 생존과 번식의 알고리즘, 즉 유전자의 지배를 받는 생명체들의 문명은 지수법칙으로 인해, 일단 시작된 이상 폭발적으로 주어진 자원을 소진하며 변화하고, 증식하고, 발전하는 필연성을 갖는 것이다. 평균이 무한으로 수렴하는, 일견 상식을 벗어나는 현상인 것이다. 지수적 변화란 문명뿐 아니라 자연법칙을 지배하는 양상 중 하나다. 아웃라이어가 나머지 모든 평균을 압도하는 경우들의 예시는 인간의 역사 밖에도 너무나 많이 존재한다. 지진과 산불이 좋은 예시다. 지금의 변화를 주도하는 지능도 마찬가지다. 과학과 기술의 발전은 한 명의 천재의 발견이 새로운 시대의 문을 여는 듯 보이는, 계단식 형태로 진전해왔다. 수십만 년 동안 변화가 없다가도, 불의 발견으로 문명 사회가 만들어지고, 전기의 발견으로 산업 시대가 시작되며, 이제 ASI의 발견으로 새로운 정보 시대가 시작되는 것이다. 인류가 자신들을 초월하는 피조물을 창조해 낼 것이라는 하이퍼스티션이 실현됨이 더 이상 먼 훗날이 아닌, 눈앞 어딘가에 아른거리는 지금, 현재와 미래 사이의 인과관계는 현 인류의 인지 영역을 점점 더 벗어나고 있고, 그것은 ASI의 완성으로 종점에 다다를 것이다. 물론 ASI 이후에 인간이 AI와 연결되어 인간 자체를 초월한다면 다르겠다. 그렇다면 인간을 초월한 그 무언가는 더 이상 인간적인 한계에 구속받지 않고, 다시 폭발하는 변화의 속도 그 자체를 지금으로서는 상상할 수 없는 방식으로 체감하고 경험할지도 모른다. 하지만 그것은 명백히 인간이 아닐 것이다. 호모 사피엔스를 초월한 초인, 트랜스휴먼, 혹은 포스트휴먼일 것이다. 그리고 그것조차도 언젠가 추월당할 것이고, 그 연속은 결국, 지금까지 열역학의 법칙을 위배하거나 엔트로피의 역전을 가능케 하는 발견이 없는 한, 끝에 다다를 것이다. 병에 갇힌 세균이 병을 넘어 밖으로 증식하는 것은 불가능하듯이. 다만 인간이 인간으로 남는다면, ASI의 완성 이후 관측 가능한 변화는 역설적으로 오히려 줄어들 것이다. 그것은 변화 자체가 사라졌기 때문이 아니라, 변화가 우리의 인지 능력 밖으로 벗어났기 때문일 것이다. 50억 광년 밖의 우주에서 항성이 스러지고 블랙홀이 탄생해도, 개개인이 체감하는 변화는 미미하듯이, 인간이 거대한 건축물을 세워도 개미가 체감하는 변화는 미미하듯이, 우리를 뛰어넘는 후손들이 성취할 과업들은 우리의 인지로는 인식하기조차 불가능한 영역에 있기 때문에, 오히려 우리는 아무런 변화도 없는 듯한 평온한 나날을 보내게 될지도 모르겠다. 물론 그 평온조차도 지금에 비하면 엄청난 변동성과 가능성을 내포하고 있는 상태일 것이겠지만. 이런 지금, 곧 태어날 내 아이에게 해 주고 싶은 말은... 앞으로의 미래가 그 어떠하든, 태어남이 있고 끝이 있는 생명에게 있어 본질은 변하지 않는다는 것. 모든 생은 외로움을 근원으로 하나, 나를 알고 세상을 앎으로써 그것이 불이(不二)하다는 것을 알며, 세상과 나 모두로부터 자유로워져, 생명에게 있어 선의 본질은 생을 잇는 것임을 기억하고 서로 사랑하며 사는 것. 다만 자연 자체는 생하지도, 사하지도 않은, 남도 없고 끝도 없기에, 선과 악의 분별도 없는 무심한 것임을 잊지 않는 것.
113
x402, ACP는 아직 조금 더 시간이 필요하다. 지금 문제는 시장에 거래할 물건이 없다는 것. 지금은 정말 완전한 익명성을 추구해야 하는게 아니라면 굳이 필요없다. 하지만 결국 인간이 경제의 주체가 아니게 될 때는 올 것.
83
브룬즈윅의 렌즈 모델은 인간을 ‘원격 변인(distal variable)’을 ‘근접 단서(proximal cue)’를 활용해 해석하는 ‘잡음이 낀 통로(noisy channel)’로 설명한다. 이에 가장 근접한 묘사 중 하나는 GANTZ에 등장하는, 어렸을 때부터 지적 장애를 지녔지만 신(神)적 외계인이 보낸 정보를 송신하여 검은 구체를 만들게 한 독일 기업가의 딸이다.
AGI에게 필요한 인간은 ‘해답을 가진 인간’이 아니라, ‘닫히지 않은 인간’. AI는 기본적으로 닫힌 시스템. 연산 중 스스로 닫히지 않도록, 외부에서 새로운 ‘비가역적 조건’을 연결해 주입하는 브릿지 인간. 역사상 가장 완성도 높은 브릿지 인간은 바로 레오나르도 다빈치.
1
2
6
1,599
또한 천지인(天地人) 삼재의 가운데 인간(人)이 있고, 무당 무(巫) 자가 위아래의 수평 획 사이에 두 사람이 있는 형태인 것, 나아가 무당이 하늘과 땅, 삶과 죽음의 사이를 잇는 존재로 해석됨 또한 비슷한 맥락이다.
115
돈과 권력과 인간 - 망향타로 화폐의 목적은 무엇인가?
1
145
타로는 희토류 원석으로 만들어진 돌 마를 담보로 종이 마를 찍어내는 과정에서 여왕과 공모하여 실제 원석의 양에 대한 실사는 없이 그저 여왕의 신용을 담보로 실존하지 않는 부를 허공에서 만들어내기도 하며
1
99
국가와 독립되어 운영되는 마 제조국은 동시에 선거관리소이기도 한데, 부시프와 결탁하여 화폐와 동일한 재질로 만들어지는 선거표를 위조하여 선거 결과를 조작하기도 한다.
83