Problema al generar matrices muy grandes en C (Error: Violación de segmento (`core' generado))

Necesito crear una matriz muy grande (del orden de 100.000x100.000), pero al escribir el código en C i correrlo en linux me sale el error "Violación de segmento (`core' generado)". No se como solucionarlo... Creo que tengo memoria RAM suficiente ( 2GB) y además las variables de dentro de la matriz son tipo int por lo que ocupan relativamente poco... ¿alguien sabe como solucionarlo?

PD: Usando el comando malloc, i en este si que me corre el programa pero mi pc al correr el programa para matrices grandes se me para y en la terminal aparece : Terminado (killed). Estoy usando linux por si sirve de algo...