Update README.md
Browse files
README.md
CHANGED
@@ -1,5 +1,5 @@
|
|
1 |
# Extracción de datos de Reddit
|
2 |
-
Se descargaron todos los titulos de los hilos de algunas comunidades de Reddit entre marzo del 2017 y enero del 2022:
|
3 |
|
4 |
| Comunidad | N° de hilos |
|
5 |
|----------------------------|-------------|
|
@@ -15,17 +15,17 @@ Se descargaron todos los titulos de los hilos de algunas comunidades de Reddit e
|
|
15 |
| vzla | 42909 |
|
16 |
|
17 |
# Etiquetas
|
18 |
-
|
19 |
Se etiquetaron 757 hilos (AMA: 290, No AMA: 458), siguiendo una estrategia de query by committee.
|
20 |
En el archivo `etiqueta_ama.csv` se puede revisar esto.
|
21 |
|
22 |
Con estos 757 hilos se ejecuto un algoritmo de label spreading para identificar los hilos AMA restantes, esto dío un total de 3519 hilos.
|
23 |
En el archivo `autoetiquetado_ama.csv` se puede revisar esto.
|
24 |
|
25 |
-
Para identificar las profesiones de las personas que
|
26 |
https://raw.githubusercontent.com/davoclavo/adigmatangadijolachanga/master/profesiones.txt
|
27 |
|
28 |
-
Para lograr abarcar todas las posibilidades, se agregaron tanto las versiones que terminaban en "a" como en "o".
|
29 |
|
30 |
Luego se agruparon las profesiones similares, para lograr un numero similar de hilos por profesión, para lo que se utilizo el siguiente diccionario:
|
31 |
|
@@ -68,7 +68,7 @@ sinonimos = {
|
|
68 |
}
|
69 |
```
|
70 |
|
71 |
-
Se descargaron todos los comentarios de los hilos AMA que contenian algunas de estas profesiones y luego se agruparon
|
72 |
|
73 |
Finalmente, se mantuvieron todas las profesiones que contenian más de 200 pares de pregunta respuesta, las que incluyen alrededor de 3000 pares pregunta respuesta.
|
74 |
En el archivo `qa_corpus_profesion.csv` se puede revisar esto.
|
|
|
1 |
# Extracción de datos de Reddit
|
2 |
+
Se descargaron todos los titulos de los hilos de algunas comunidades en español de Reddit entre marzo del 2017 y enero del 2022:
|
3 |
|
4 |
| Comunidad | N° de hilos |
|
5 |
|----------------------------|-------------|
|
|
|
15 |
| vzla | 42909 |
|
16 |
|
17 |
# Etiquetas
|
18 |
+
Luego, se etiquetaron manualmente algunos de los hilos para marcar AMA vs No AMA.
|
19 |
Se etiquetaron 757 hilos (AMA: 290, No AMA: 458), siguiendo una estrategia de query by committee.
|
20 |
En el archivo `etiqueta_ama.csv` se puede revisar esto.
|
21 |
|
22 |
Con estos 757 hilos se ejecuto un algoritmo de label spreading para identificar los hilos AMA restantes, esto dío un total de 3519 hilos.
|
23 |
En el archivo `autoetiquetado_ama.csv` se puede revisar esto.
|
24 |
|
25 |
+
Para identificar las profesiones de las personas que crearon los hilos se utilizó la siguiente lista:
|
26 |
https://raw.githubusercontent.com/davoclavo/adigmatangadijolachanga/master/profesiones.txt
|
27 |
|
28 |
+
Para lograr abarcar todas las posibilidades, se agregaron tanto las versiones que terminaban en "a" como en "o" de todas las profesiones.
|
29 |
|
30 |
Luego se agruparon las profesiones similares, para lograr un numero similar de hilos por profesión, para lo que se utilizo el siguiente diccionario:
|
31 |
|
|
|
68 |
}
|
69 |
```
|
70 |
|
71 |
+
Se descargaron todos los comentarios de los hilos AMA que contenian algunas de estas profesiones y luego se agruparon incluyendo solamente los que contenian algún signo de pregunta y que tuviesen una respuesta del autor del hilo, formando un par de pregunta respuesta.
|
72 |
|
73 |
Finalmente, se mantuvieron todas las profesiones que contenian más de 200 pares de pregunta respuesta, las que incluyen alrededor de 3000 pares pregunta respuesta.
|
74 |
En el archivo `qa_corpus_profesion.csv` se puede revisar esto.
|