Cuando tenía dos años empezó a asistir a una escuela que aplicaba el célebre método Montessori. Su interés por los ordenadores empezó a los seis años, y por la tecnología sobre los doce.
Cursó estudios en la East Lansing High School graduándose después con honores en la Universidad Estatal de Míchigan, con un grado en Ingeniería de Computadores (Computer Engineering). Doctorado en Ciencias de la computación en la Universidad de Stanford.
Conoció a Serguéi Brin en unas jornadas de orientación para nuevos estudiantes en la Universidad de Stanford. Al principio no se llevaron muy bien, parecían estar en desacuerdo en casi todo aunque muy pronto se hicieron amigos y empezaron a compartir ideas, especialmente en su interés matemático por la World Wide Web. Entre ambos escribieron un artículo "The Anatomy of a Large-Scale Hypertextual Web Search Engine".
El proyecto demostró ser un excelente motor de búsqueda, y decidieron abandonar la universidad para dedicarse a tiempo completo al buscador. Solicitaron soporte económico a amigos, profesores y familia para comprar servidores y alquilar un garaje en Menlo Park, California.
En 1996 crearon BackRub, un buscador predecesor de Google basado en la tecnología patentada de PageRank. El proyecto demostró ser un excelente motor de búsqueda, y decidieron abandonar la universidad para dedicarse a tiempo completo al buscador.
En 1998. El nombre definitivo fue Google por su parecido con el término Gogol, que en inglés representa la cifra 10 elevado a 100, en alusión a la cantidad de información que trataban de organizar.
Sufrió una enfermedad que le afectó las cuerdas vocales. Fue diagnosticado con una parálisis de una cuerda vocal tras un catarro que padeció una década antes y que provocó que su voz se hiciese más áspera.