๋ถ๋์ฐ ๊ด๋ จ ๊ธฐ์ฌ๊ฐ ๋ถ๋์ฐ ๊ฐ๊ฒฉ์ ์ด๋์ ๋ ์ํฅ์ ๋ฏธ์น๋์ง๋ฅผ ๋ถ์ํ๊ธฐ ์ํด ์์ฑ ๋์์ต๋๋ค. ๋จผ์ ๋ถ๋์ฐ ๊ด๋ จ ๊ธฐ์ฌ์ ํค๋๋ผ์ธ, ๋ณธ๋ฌธ, ๋๊ธ ๋ฑ์์ ๋น๋ฒํ ๋ฑ์ฅํ๋ ๋จ์ด๋ฅผ ์ป๋๋ค. ์ป์ด์ง ๋จ์ด๋ค๊ณผ ์ค์ ๋ถ๋์ฐ ๊ฐ๊ฒฉ๊ณผ์ ๊ด๊ณ๋ฅผ ํ์ธํด๋ณธ๋ค.
๋๋ ํ ๋ฆฌ ์ด๋ฆ | ๋๋ ํ ๋ฆฌ ๋ด์ฉ |
---|---|
article | Crawlingํ ๋ถ๋์ฐ ๊ธฐ์ฌ data (2006.01~2021.06) |
seoul_estate_trade_data | ๊ธฐ์ฌ์์ ํ์ํ data๋ฅผ ์ป๊ธฐ ์ํ ์ฝ๋ |
[source](Source Code Info) | ๊ธฐ์ฌ์ ๋ถ๋์ฐ ๋ฐ์ดํฐ๋ฅผ ํจ๊ป ๋ถ์ํ ์ฝ๋ |
๋ฒํธ | ๋ด์ฉ | ์งํ ์ํฉ |
---|---|---|
1 | ๊ฐ๊ฒฉ ์์น๊ณผ ํ๋ฝ์ ์ฐ๊ด๋ word ์ถ์ถ | ๋ณด์ถฉ ํ์ |
2 | ๋ถ๋์ฐ ๊ธฐ์ฌ์ ๊ฐ๊ฒฉ์ ์๊ด๊ด๊ณ๋ฅผ ํ์ธ | ๋ณด์ถฉ ํ์ |
-
acticle_same_title.ipynb
: ๊ฐ ์ธ๋ก ์ฌ๋ง๋ค ๊ธฐ์ฌ๋ฅผ ์ธ ๋ ์ด๋ค ๋จ์ด๋ฅผ ์ค์ํ๊ฒ ์ฌ์ฉํ๋์ง ์์๋ณด๊ธฐ ์ํด ์๋์ ๊ฐ์ ๋ฐฉ๋ฒ์ ์ฌ์ฉํ์๋ค.
-
d2v๋ฅผ ์ฌ์ฉํด์ ๊ธฐ์ฌ title์ ์ฌ์ฉ๋ word๋ค์ ์ค์๋์ ๋ํ ์ ๋ณด๋ฅผ ํฌํจํ ๊ฒฐ๊ณผ๋ฅผ ์ป๊ธฐ ํ๋ค๋ค๊ณ ์๊ฐํ์๋ค.
-
title์ ์ฌ์ฉ๋ word๋ค์ ์ธ๋ก ์ฌ๋ง๋ค doc์ผ๋ก ํ์ฌ tf-idf ๊ฐ์ ๊ตฌํ์๋ค.
-
๊ตฌํด์ง tf-idf ๊ฐ์ weight๋ก ํ์ฌ ์ ์ฒด word๋ค์ w2vํ์ฌ ์ป์ ๊ฒฐ๊ณผ์ ๊ณฑํด์ค๋ค. ์ด๋ tf-idf ๊ฐ์ normalizationํ์ฌ ๊ฐ ์ธ๋ก ์ฌ์์ ์ฌ์ฉ๋ word๋ค์ tf-idf ๊ฐ์ ํฉ์ด 1์ด ๋๋๋ก ํ์๋ค.
-
UMAP(cosin)์ ์ด์ฉํด ์๊ฐํํ์ฌ ์ธ๋ก ์ฌ๋ค์ ๋ถํฌ๋ฅผ ํ์ธํ๊ณ clustering ํด๋ณธ๋ค.