DS

DS/Python

[Python] KMeans 사용시 맥북에서 에러 나는 경우

KMeans 사용할때 맥북에서만 에러가 나는 경우가 있다. (에러내용: 'NoneType' object has no attribute 'split' ) 아래 코드로 버전을 확인하고, 업데이트를 한번 해준다. 찾아본 결과 2.2 버전에서 3.1 버전으로 업데이트 되면 에러가 해결되는 것 같다. 나도 2.2버전이었지만 업데이트 해서 3.1버전이 되었다. import threadpoolctl print(threadpoolctl.__version__) pip install threadpoolctl --upgrade 업데이트 한 뒤 에러 없이 잘 작동함.

DS/Python

[Python] skimr 대신 skimpy

R에서 사용하던 skimr 기능이 파이썬에서 필요했다. 찾아보니 skimpy라는 라이브러리에서 비슷한 기능을 제공하고 있다. 사용법은 매우 간단하다. 라이브러리 설치하고 import 하고 사용하면 된다. https://github.com/aeturrell/skimpy GitHub - aeturrell/skimpy: skimpy is a light weight tool that provides summary statistics about variables in data frames within skimpy is a light weight tool that provides summary statistics about variables in data frames within the console. - GitH..

DS/Graph Neural Network

Graph Neural Network: Over-smoothing

그래프 신경망에서 over-smoothing 문제란 레이어를 여러개 쌓을수록 임베딩이 서로 유사해지는 현상을 의미한다. 그래프 신경망에서 레이어가 여러개 쌓일수록 멀리 떨어져있는 이웃의 정보를 가져온다는 것을 의미한다. 이러한 현상이 발생하는 이유는 다음과 같다. 그래프 레이어가 1개일 경우는 1-hop neighbor에 대한 정보를 집계하여 vertices(정점)이 되는 노드를 업데이트 한다는 의미이다. 이때, 만일 노드끼리 서로 연결되어 있고 공통 이웃이 있을 경우 동일한 정보에 엑세스할 수 있게 된다. 즉, 노드끼리 연결되어 있을수록, 공통 이웃이 많을수록 임베딩이 비슷해진다. 반대로 이웃 노드가 다르면 다를수록 임베딩은 달라질 것이다. 그래프 레이어가 2개일 경우 2-hop neighbor에 대한..

DS/Graph Neural Network

Graph Convolution Network: Spatial GCN vs Spectral GCN

Graph Neural Network(GNN)에서 spatial convolution과 spectral convolution이 어떻게 다른지 살펴보려고 한다. Spatial GCN Spatial convolution은 가까운 이웃과 먼 이웃을 구분하여 이웃의 정보를 집계하여 convolution 연산을 수행하는 방식이다. 각 노드와 연결된 이웃 노드들에 한해서 컨볼루션 연산을 수행한다. 노드와 이웃 노드를 특정 grid form으로 재배치하여 convolution 연산을 수행하므로 고정된 크기의 이웃 노드를 선택하는 것이 중요하다. Spatial convolution은 각 노드에서 로컬로 그래프 컨볼루션을 수행하므로 서로 다른 위치 및 구조에서 가중치를 공유할 수 있다(weight sharing). 이는..

DS/Python

[Python] Selenium 이용한 Googlemap 크롤링

파이썬에서 Selenium 과 BeaultifulSoup4 라이브러리를 이용한 크롤링 방법. 나는 구글맵의 데이터를 크롤링 해보려고 한다. 1. 터미널에 가상환경 생성(Option) 가상환경은 생성하든 안하든 옵션이지만, 혹시나 라이브러리 버전때문에 이상한데 시간을 잡아먹히기 싫어서 왠만하면 설치하는 편. mac에서는 아래 코드로 생성. -n 뒤에는 가상환경 이름 설정해주는 부분이다. 나는 'project_maps'라고 가상환경 이름을 설정했다. conda create -n project_maps python=3.6 생성 후에는 activate해주기. conda activate project_maps 2. 라이브러리 다운로드 seolenium 설치 conda install -c conda-forge se..

log:->
'DS' 카테고리의 글 목록 (2 Page)