Родился 29 июня 1949 года в г.Октябрьске Куйбышевской области.
Образование высшее: в 1974 году окончил Саратовский юридический институт им. Д.И.Курского по специальности "Правоведение" с присвоением квалификации "Юрист".
Проходил срочную военную службу в Советской Армии на должностях рядового и сержантского состава. Трудовую деятельность начал в 1966 году: работал токарем, затем слесарем на заводе "Тяжмаш" в г.Сызрань.
По окончании института работал в органах прокуратуры: следователем районной прокуратуры в Тверской области, старшим следователем прокуратуры г. Пскова, прокурором отдела, следователем по особо важным делам прокуратуры Псковской области.
В 1987 году В.А. Будылев был принят переводом в прокуратуру Саратовской области, где продолжил свою трудовую деятельность на следственно-прокурорских должностях.
Являясь заместителем начальника следственного управления, осуществлял надзор за следствием в органах прокуратуры. В последние годы возглавлял службу криминалистики, отвечая за раскрытие особо опасных преступлений против личности, а так же связанных с коррупцией.
В марте 2004 года В.А. Будылев был избран депутатом Саратовской областной Думы третьего созыва.
Работал на освобожденной основе заместителем председателя комитета областной Думы по вопросам государственного строительства и местного самоуправления.
20 апреля 2005 года постановлением Губернатора области с учетом постановления Саратовской областной Думы был назначен на должность вице-губернатора первого заместителя Председателя Правительства области. В 1999 году Приказом Генеральной прокуратуры Российской Федерации награжден нагрудным знаком "Почетный работник прокуратуры Российской Федерации", в 2000 году - Почетным знаком Губернатора Саратовской области "За мужество и героизм". Имеет классный чин - старший советник юстиции. Член Президиума регионального политсовета партии "Единая Россия". Женат. Имеет дочь.