Dipende dallo scopo con cui crei la tua ambientazione. In particolare, dipende molto se ti interessa un eventuale ritorno economico (es. tramite autopubblicazione) oppure se lo fai per giocarci con i tuoi amici.
Se lo fai per tuo uso, puoi fare quello che ti pare. Se al tuo tavolo si gioca ancora a D&D 3.5, ha perfettamente senso creare il tuo setting per D&D 3.5. Tanto lo dovete usare voi.
In caso contrario, le considerazioni sono diverse.
Sistema generico/Sistema non generico ma adattato vs Sistema scritto con l'ambientazione in mente
Un sistema generico è progettato con l'idea di essere utilizzabile per qualunque genere ed ambientazione, o quasi; uno potrebbe avere la necessità di adattarlo un minimo al setting o al genere, ma il lavoro spesso è abbastanza limitato. Lo stesso discorso vale per un sistema non generico, con la differenza che a seconda dei casi adattarlo può essere più complicato. Notare, tra parentesi, che D&D *non è* un sistema generico - D&D è un sistema concepito con il fantasy in mente; e nemmeno tutto il fantasy, ma uno specifico tipo di fantasy (fantasy eroico/supereroico); se lo vuoi usare per qualcosa di diverso, devi fare un lavoro di adattamento che può essere più o meno importante a seconda di quanto il setting che hai in mente si distanzia dalle premesse di base di D&D.
Lo svantaggio è che il sistema generico o il sistema adattato può non rendere bene il feel dell'ambientazione. In alcuni casi, può essere anche poco compatibile con il setting - e quindi potrebbe richiedere dei rimaneggiamenti vistosi prima di essere utilizzabile. Per esempio, Fate è una pessima scelta per il genere horror (secondo me eh, poi c'è anche chi lo nega ostinatamente). Magari anche dopo gli adattamenti si continua a "sentire" che non è un sistema pensato con il setting in mente.
Scrivere il sistema con l'ambientazione in mente è un lavoraccio, ma potenzialmente ti permette di trasmettere esattamente il tipo di esperienza che vuoi trasmettere con quel particolare setting. Un esempio che faccio spesso è The One Ring (L'unico Anello in trad. it), il cui sistema rende benissimo le atmosfere di Tolkien; si vede che è stato scritto con i libri in mente.
Creare il sistema da zero vs Usarne uno già fatto
In generale, creare il proprio sistema da zero è una strada che non consiglierei a meno che non si abbia idea di che cosa si sta facendo. Il che, in pratica, vuol dire avere una buona conoscenza dell'industria dei gdr, sapere quali sono le idee ed i sistemi "trendy" del momento, cosa è stato fatto in passato e cosa no. Se non hai una chiara idea di quello che stai facendo, ci sono grosse probabilità che i tuoi sforzi creativi producano un "fantasy heartbreaker". Non so se hai mai sentito questa espressione - un fantasy heartbreaker è il gioco che viene tipicamente prodotto da un designer principiante, che ha giocato solo a D&D. È un gioco che ti "spezza il cuore" perché magari ha idee originali e meritevoli, che però si perdono in un mare di elementi ripresi acriticamente da D&D, senza prendere atto delle innovazioni dei sistemi odierni. Tieni conto che D&D 3.x è un gioco che sarebbe stato innovativo nei tardi anni 80/primi anni '90... oggi, nel 2016, non solo va contro le tendenze più recenti (visto che ora vanno di moda i sistemi leggeri), ma è davvero molto datato sotto praticamente tutti gli aspetti.
Di nuovo: se scrivi un sistema per supportare la tua ambientazione per tuo uso privato, puoi fare quello che ti pare - e ti invito a farlo se l'idea ti piace e ti diverte. Se invece, come dicevo più su, hai una mezza idea di pubblicarlo, io eviterei di scrivere il mio sistema, a meno che tu non sia al corrente dei recenti trend in termini di design di gdr. Probabilmente ti conviene scegliere in prima istanza uno dei sistemi generici "trendy" del momento (come Fate o Savage Worlds), o D&D 5E (ha il vantaggio di avere un bacino di utenza più ampio, visto che la 3.5 e la 4e hanno terminato il loro ciclo vitale, ed il pool di giocatori è destinato a ridursi). In vista di una eventuale pubblicazione, personalmente ti consiglierei caldamente di dare un'occhiata a Fate, in parte perché è un sistema molto elegante ed elastico, ma soprattutto perché va molto di moda.
Tieni conto che ora come ora, come scrivevo più su, vanno di moda i sistemi leggeri. I sistemi pesanti come D&D 3.5, Pathfinder, o GURPS sono molto out of touch con le tendenze di adesso.
Inoltre, dipende un po' dall'ambientazione. Per esempio, un ambientazione high fantasy molto over-the-top e cinematica probabilmente verrebbe bene con Savage Worlds, mentre GURPS sarebbe forse poco adatto (se la tua ambientazione è un po' stile wuxia, probabilmente vuoi azioni cinematiche e spettacolari - quindi un sistema di risoluzione semplice e veloce; non vuoi avere un fantastiliardo di modificatori ogni volta che vuoi saltare da un fosso, mi spiego?). Un sistema low fantasy abbastanza crudo e realistico verrebbe "di default" meglio con GURPS che con SW. (anche se con GURPS avresti il problema della licenza )