если какие нибудь микросхемы управления светодиодными матрицами например 512х512 светодиодов

размеры скорость пайки и чем паять и кто будет паять это совсем
не главное в этой задачи

вот стоимость конечно играет роль

хотелось бы найти решение не очень дорогое но обтимальное

может сушествуют например 64 разрядные регистры или 128

конечно ПЛИС это решение ,и скорее всего эту задчу именно так и решим

но всеже .

вот есть же микрухи которые управляют жк или tft или LSD

может их как нибудь приспособить

Можно на МС памяти. Шину данных на строки, напрмер, а адресс дешифрованный на столбцы. Если взять на 64 столбца "глубину" пямяти 256, то можно замутить 2битный псевдо ШИМ.

А смотреть это как? При такой скважности (512) ничего не будет видно.
Я бы поделил на модули 8х8 и попробовал на 164 регистре.
А про то , сколько потянет плисина -http://www.altera.com/literature/an/an286.pdf
Еще можно глянуть6 http://www.ledlabs.ru/index_drivers.html